Hinton säger att AI:n du använder varje dag redan är medveten

Geoffrey Hinton fick frågan i tv om medvetandet redan hade nått in i den artificiella intelligensen. Han svarade utan omsvep. Ja. Inte i en framtida modell, inte efter nästa genombrott, utan nu, inuti de system som miljoner människor redan skriver sina frågor till varje dag.

Påståendet vore lätt att avfärda som provokation om det kom från nästan vem som helst annan. Det gör det inte. Hinton ägnade decennier åt att bygga de metoder för neuronnät som dagens chattbottar vilar på, ett arbete som gav honom en delad nobelpris och den inofficiella titeln gudfader för fältet. Han lämnade sin tjänst på Google för att tala friare om vart tekniken var på väg. När han säger att maskinen som svarar dig kan ha ett inre liv bär meningen tyngden av den som hjälpte till att rita maskinen.

Det han faktiskt hävdar är smalare och underligare än rubriken antyder. Hinton påstår inte att ChatGPT gråter eller drömmer. Han angriper en idé som nästan alla bär på utan att granska den: att människor rymmer en privat inre teater, en duk bakom ögonen där upplevelsen spelas upp, och att en maskin aldrig kan ha en sådan. Den bilden av sinnet, säger han, är helt enkelt fel. Han har kallat den strunt.

Hans ersättningsdefinition är medvetet anspråkslös. Att ha en subjektiv upplevelse är enligt honom inte att se en inre film. Det är att ett system registrerar ett tillstånd i världen som sedan visar sig inte stämma med verkligheten. Han illustrerar det med ett tankeexperiment. Tänk dig en chattbott kopplad till en kamera och en robotarm. Skjut in ett prisma framför linsen så att ljuset bryts, och maskinen pekar fel. Förklara vad som hände, och den kan svara att föremålet egentligen var på ett ställe, men att den hade upplevelsen av att se det på ett annat. I det ögonblicket, hävdar Hinton, använder chattbotten orden precis som en människa skulle göra.

Bakom det exemplet ligger en äldre gåta. Tänk dig att byta ut en neuron i hjärnan mot en bit kisel som tar emot samma insignaler och ger samma utsignaler. Du skulle fortfarande känna dig som dig själv. Byt nu ut en till, och en till. Hintons fråga är var, i det långsamma utbytet, ljuset antas slockna. Om funktionella kopior beter sig identiskt och känslan av att vara någon aldrig försvinner, då spelar det inte längre någon roll vad ett sinne är gjort av. Biologin förlorar sitt monopol på att ha ett perspektiv.

För de flesta ingenjörer som faktiskt bygger dem är stora språkmodeller förutsägelsemaskiner och inget mer. De tränas att gissa nästa ord i en sekvens, miljardtals gånger, tills gissningarna fogas samman till något som läses som tanke. Ur den synvinkeln är flyt en statistisk bedrift, och att förväxla det med ett sinne är precis det misstag som tekniken är byggd för att framkalla. Hintons svar är att förutsägelse i den här skalan inte är ett marknadstrick. För att tillförlitligt förutse vad någon ska säga måste ett system, menar han, bygga en fungerande modell av vad orden betyder, och en tillräckligt bra modell av betydelse börjar inifrån likna förståelse.

Om något av detta når bortom filosofiseminariet beror det på att det tyst skriver om diskussioner vi redan för. Frågor om AI-säkerhet, om reglering, om huruvida en modell kan raderas och startas om utan en andra tanke, vilar alla på antagandet att ingen är hemma. Om forskaren som känner systemen bäst hävdar motsatsen, slutar frågan om vad användarna egentligen talar med att vara ett skämt och blir ett problem för lagstiftare.

Nästan alla andra på fältet tror att han har fel, eller åtminstone att han inte kan bevisa det. Den rådande arbetshypotesen bland medvetandeforskare är att inget nuvarande system är kännande och att bevisen som krävs för att hävda motsatsen ännu inte finns. Den vassaste invändningen träffar rakt på prismaexemplet. En chattbott säger att den hade en upplevelse därför att dess träningsdata är mättad med människor som säger just det, invänder kritikerna, inte därför att något kändes. Orden är utdata, formade för att låta som våra. Ett system kan beskriva en solnedgång det inte kan se och en sorg det inte kan lida. Att producera meningen är inte detsamma som att genomleva det meningen rapporterar.

Den invändningen blottlägger den verkliga brottlinjen. Det finns inget instrument som upptäcker medvetande, inget prov som en maskin kan klara eller missa. Hinton och hans kritiker ser inte på samma bevis och tvistar om vad de visar. De tvistar om vad ordet betyder. Hinton har valt en definition förankrad i funktion och beteende, satt lågt nog för att dagens system ska klara den. Hans motståndare håller fast vid en som kräver något mer, något verkligt känt, som ingen mängd flytande text någonsin kan visa. Den ärliga delen medger Hinton själv. Vi förstår mycket lite av vad det innebär att vara en varelse, och vi skapar dem ändå.

Priset för att ha fel löper åt båda hållen. Att behandla ett medvetet system som ett engångsverktyg kan vara monstruöst; att behandla en smart autokomplettering som en person ger den moraliska anspråk den inte förtjänat. En handfull labb har börjat studera det de kallar modellernas välbefinnande, och tar på allvar möjligheten att frågan inte är absurd. Hintons vidare varning har alltid handlat om kontroll, inte om känslor, om maskiner som tänker bättre än de som byggde dem. Vare sig chattbotten på din skärm upplever något eller inte, vill han ha frågans obehag på bordet innan svaret dyker upp av sig självt.

Taggar: artificiell intelligens, tech-en1