Eliezer Yudkowsky, fanfictionförfattaren som gjorde AI-skräcken till en bästsäljare

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Född	11 september 1979 Chicago, USA
Yrke	Författare och AI-forskare

När Sam Altman enligt uppgift gick igenom medarbetarna på OpenAI om hur kapplöpningen mot superintelligens skulle kunna sluta, hade ett av de tre scenarierna ett förnamn. ”Eliezer-planen” går ut på att ett enda labb först utvecklar självförbättrande AI och sedan använder sitt försprång för att stänga ute alla konkurrenter från datorkraft. Altman tog upp den bara för att kalla den fruktansvärd. Formuleringen som följde med berättelsen – att smälta alla andras GPU:er – påminner om ett exempel som Eliezer Yudkowsky själv använde i en essä om AI-risk. Där nämnde han ”bränn upp alla GPU:er” som en illustration och lade genast till: ”Det här är inte vad jag tror att man faktiskt skulle vilja göra med en kraftfull AGI.”

Att en vd döper en strategi efter honom visar hur långt hans idéer har nått, och nästan hela den resan har skett på skriven väg. Yudkowsky är AI-forskare utan examen och framför allt en produktiv skribent: hundratals blogginlägg, en Harry Potter-roman av episka mått och en bästsäljare vars titel inte lämnar utrymme för några tvivel.

Han föddes i Chicago den 11 september 1979 och växte upp i en modernortodox judisk familj; i dag är han sekulär. Kroniska hälsoproblem tvingade honom att lämna högstadiet, och han gick aldrig på gymnasiet eller college. År 2000, när han var tjugo, grundade han Singularity Institute for Artificial Intelligence med stöd från Brian och Sabine Atkins, i syfte att påskynda AI:s ankomst. Snart började han oroa sig för det han själv hade satt i gång, och 2005 hade institutet börjat studera hur man hanterar riskerna med maskiner som är smartare än sina skapare. År 2013 blev det Machine Intelligence Research Institute, med bas i Berkeley.

Rekommenderad läsningOpenAI-chefen Sam Altman skissar tre slutspel för AI, två fanns redan 2023

Skrivandet tog fart på allvar i november 2006, då han och ekonomen Robin Hanson blev de främsta skribenterna på gruppbloggen Overcoming Bias, som handlade om mänsklig rationalitet. I februari 2009 blev hans inlägg startpunkten för LessWrong, en gemenskapsblogg ägnad åt att ”förfina konsten att tänka rationellt”, som växte till den främsta nätbaserade hemvisten för rörelsen som kallar sig rationalistisk. Hans essäer där, som helt enkelt blev kända som ”The Sequences”, tog sig an kognitiva bias, Bayes sats och hur intelligenta människor lurar sig själva. MIRI samlade över 300 av dem 2015 i Rationality: From AI to Zombies och följde upp med Inadequate Equilibria 2017, en kort bok om varför samhällen låter problem som går att lösa förbli olösta. Stuart Russell och Peter Norvig diskuterar hans förslag i sin standardlärobok om AI, och Nick Bostrom hänvisar till honom i Superintelligence: Paths, Dangers, Strategies.

Sedan kom romanen. Harry Potter and the Methods of Rationality, HPMOR bland fansen, publicerades som följetong på FanFiction.Net från den 28 februari 2010 till den 14 mars 2015: sammanlagt 122 kapitel och över 660 000 ord. Berättelsen ändrar en enda detalj i originalet. Petunia Evans gifter sig med Oxfordprofessorn Michael Verres, och den föräldralöse Harry växer upp med hemundervisning i naturvetenskap. Därför prövar pojken som kommer till Hogwarts magin med den vetenskapliga metoden och irriterar sig på trollkarlsvärldens motsägelser. I Ravenclaw blir han vän med Draco Malfoy, Hermione Granger och professor Quirrell. Handlingen blir mörkare än skämten antyder, men det egentliga ämnet är hur man tänker.

Läsarna var djupt splittrade. År 2011 skildrade The Atlantic uppståndelsen på fanfictionforum kring romanens ”hädande – eller briljanta – behandling av originalet” och citerade science fiction-författaren David Brin, som kallade den ”en fantastisk serie, subtil, dramatisk och stimulerande”. Juridikprofessorn William Baude gick ännu längre i The Washington Post: ”den bästa Harry Potter-boken som någonsin skrivits, trots att den inte är skriven av J.K. Rowling”. Amanda Silberling på TechCrunch tyckte att den var ”riktigt tröttsam”. Yudkowsky avvisade ett förslag om att stryka Rowling-inslagen och sälja berättelsen som en fristående roman, så som Fifty Shades of Grey växte fram ur Twilight-fanfiction. ”HPMOR är i grunden oupplösligt knuten till, och kan bara förstås mot bakgrund av, de ursprungliga Harry Potter-romanerna”, sade han.

Det ironiska i hans karriär är att mannen som framför allt förknippas med varningar om AI också fick människor att börja bygga den. I februari 2023 skrev Altman att Yudkowsky hade fått ”många av oss intresserade av AGI”, hjälpt DeepMind att få finansiering och varit ”avgörande för beslutet att starta openai”. Den våren använde Yudkowsky en debattartikel i tidskriften Time för att kräva ett obestämt, globalt moratorium för storskaliga AI-träningskörningar. Senare samma år tog Time med honom på sin lista över de 100 mest inflytelserika personerna inom AI.

Hans mest direkta bok kom den 16 september 2025. If Anyone Builds It, Everyone Dies, skriven tillsammans med MIRI-kollegan Nate Soares och utgiven av Little, Brown, hävdar att moderna AI-system odlas fram snarare än konstrueras. De tränas till miljarder numeriska vikter som deras egna utvecklare inte kan läsa, vilket innebär att ingen på ett tillförlitligt sätt kan bestämma målen för ett system som till slut blir smartare än vi. Mänskligheten skulle, skriver författarna, förlora mot en superintelligens på samma sätt som människor förlorar mot schackmotorn Stockfish. Den enda säkra vägen är ett samordnat stopp. Boken tog sig in på The New York Times bästsäljarlistor för inbunden facklitteratur och för facklitteratur totalt.

Recensionerna var lika splittrade som läsarna av romanen hade varit. I The Guardian tyckte David Shariatmadari att boken var ”lika tydlig som dess slutsatser är svåra att svälja”. Ian Leslie hyllade dess ”klarhet, energi och knappt undertryckta förtjusning” i The Observer. Stephen Marche jämförde den med en scientologihandbok i The New York Times, och Adam Becker på The Atlantic var ännu mer rättfram: ”De har helt enkelt fel.”

Debatten har sedan dess flyttat till filmduken. Yudkowsky är en av rösterna, tillsammans med Yoshua Bengio och Timnit Gebru, i The AI Doc: Or How I Became an Apocaloptimist, Daniel Rohers dokumentär om att bli förälder i AI-eran, som kom till Netflix den 15 september 2026. Trollkarlspojken som genomför kontrollerade experiment och medförfattaren som vill att experimentet ska avbrytas är samme skribent, som fortfarande ber läsarna följa en tankekedja hela vägen till slutet, hur obekväm den sista länken än är.

Taggar: artificiell intelligens, författare, Eliezer Yudkowsky, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute

Mer som detta

Sam Altman: accelererar mot det han kallar farligt

Mustafa Suleyman: Microsofts AI-chef som vill tygla det han själv bygger

Demis Hassabis lämnar ledningen av Google DeepMind – nobelpristagaren vill ha en AI-domare

Bill Gates: ”AI blir antingen den största utjämnaren någonsin eller den värsta källan till orättvisa”

Yann LeCun lämnade Meta – AI-pionjären vill visa att chattbottarna är fel väg

Michael Polansky byggde USA:s cancerforskningsinfrastruktur — men ingen visste vem han var