Demis Hassabis om den mänskliga hjärnan: ”en biologisk approximation av en turingmaskin”

Demis Hassabis har byggt sin karriär på att betrakta den mänskliga hjärnan som den enda fungerande ritningen för generell intelligens. Den här veckan blev ett lösryckt citat från honom sinnebilden för allt som en kritiker menar att AI-branschen missförstår om våra sinnen. Hela meningen som citatet hämtats ur är snävare – och mer avslöjande – än det fragment som spreds.

”en biologisk approximation av en Turingmaskin.”

Frasen står i centrum för en essä av Benjamin Riley i The Verge, ”Our minds aren’t equipped to handle AI”. Riley inleder med cybernetikpionjären Norbert Wiener: ”Varje tids tankar återspeglas i dess teknik”, och lyfter fram Hassabis, numera ordförande för Google DeepMind och chefsforskare på Alphabet, som det tydligaste exemplet på en bransch som ser sina egna maskiner när den betraktar en hjärna. Själva orden kommer från ett samtal med James Manyika som publicerades i år i Dædalus, tidskriften för American Academy of Arts and Sciences.

Vad hela meningen säger

I Dædalus förklarade Hassabis vad AGI betyder för honom. Han definierar det som ”ett system som uppvisar alla de kognitiva förmågor som det mänskliga sinnet har”, eftersom hjärnan är ”det enda existensbevis vi hittills känner till, kanske i hela universum, för att generell intelligens över huvud taget är möjlig”. Därefter kommer hela formuleringen: ”Hjärnan kan betraktas som en biologisk approximation av en Turingmaskin, vilket innebär att den i teorin skulle kunna lära sig allt som är beräkningsbart.” Men i nästa mening drar han i bromsen. Varje ändligt system behöver ”en viss grad av specialisering, eftersom tid, minne och information är begränsade”.

Läst på det sättet är det inte ett påstående om att människor är bärbara datorer. Det handlar om räckvidd – om vad en hjärna i princip skulle kunna lära sig – och fungerar samtidigt som en teknisk specifikation. Om hjärnan är referensmaskinen är AGI allt som motsvarar hela dess räckvidd. Hassabis skissar till och med på ett prov: träna en modell med kunskapsgränsen satt till 1910 och se om den kommer fram till den allmänna relativitetsteorin, så som Einstein gjorde 1915. ”För tillfället är svaret tydligt nej”, säger han.

Kritiken träffar ett lager längre ner

Rileys invändning handlar om något annat. Med stöd i Paul Cisek, neuroforskare vid University of Montreal, argumenterar han för att hjärnan bättre förstås som ett återkopplat styrsystem som agerar på världen för att förändra det den uppfattar. Den formas först av evolutionen och sedan av kulturen: imitation, språk, skrivande och skolor. Utifrån den modellen är en chattbot som utför den ansträngande delen av tänkandet ”en kognitiv varmkorv” – lockande för stunden, men nedbrytande som en återkommande del av kosten. Han hänvisar till att OpenAIs utbildningschef Leah Belsky kallat ChatGPT ”världens största lärplattform”, och till en studie från Kina där tusentals elever i praktiken slutade göra sina läxor när de började använda AI.

Den avgörande bisatsen

Den skarpaste krocken finns i Hassabis eget stycke. Några rader senare säger han att nyckeln är ”hjärnans potential att lära sig nästan vad som helst, särskilt eftersom vi kan utforma och bygga verktyg och maskiner som hjälper oss att tillägna oss kunskap”. Den bisatsen rymmer hela tvisten. Riley visar egentligen inte att Turingmaskinsmodellen är felaktig. Hans belägg handlar om verktyg som lär sig i stället för att hjälpa en människa att göra det. Ett påstående om beräkningsbarhet beskriver vad en hjärna teoretiskt sett skulle kunna ta till sig. Det säger ingenting om huruvida en viss produkt gör den som lär sig mer eller mindre kunnig.

Den frågan riktas nu till personen som styr Alphabets vetenskapliga inriktning. I augusti lämnade Hassabis den dagliga vd-rollen för att koncentrera sig på AGI-strategi och vetenskap. Enligt Fortune sade han till medarbetarna att AGI är nära förestående och att det är avgörande för mänskligheten att nästa steg blir rätt. Ett laboratorium som mäter sina maskiner mot hela den mänskliga hjärnans räckvidd har ett direkt intresse av att den räckvidden inte krymper hos människorna som använder dem.

Även en approximation av en Turingmaskin måste programmeras av något. För människor har det alltid varit det långsamma arbetet med att lära sig – och det är det enda steget som ett verktyg antingen kan förstärka eller i det tysta hoppa över.

Taggar: Demis Hassabis, Google DeepMind, AI in education, Artificial general intelligence, Turing machine