OpenAI-chefen Sam Altman skissar tre slutspel för AI, två fanns redan 2023

OpenAI:s vd Sam Altman har gett sina medarbetare en karta över hur kapplöpningen mot superintelligens kan sluta, och det mest talande är hur lite som är nytt. Av de tre slutscenarier han gick igenom med personalen ligger två nära idéer som hans eget företag skrev ned för flera år sedan. Inget av dem förverkligades. Det tredje, som hamnade i rubrikerna, tog han bara upp för att avfärda det.

Skrapar man bort etiketterna handlar alla alternativen om samma fråga: vem som får kontrollera den beräkningskapacitet som de mest avancerade modellerna körs på. De uttalanden som Altman uppges ha gjort förklarar också varför den frågan hela tiden skjuts på framtiden.

Vad Sam Altman sade till OpenAI:s personal om AI:s slutscenario

The Information var först med att rapportera om den interna presentationen, med hänvisning till personer med insyn, och därefter har The Decoder, Forbes och Latin Times följt upp saken. Uppgifterna bygger på anonyma källor. Det första alternativet är ett internationellt organ, utformat efter International Atomic Energy Agency, som skulle upprätthålla säkerhetsstandarder för företag i AI-frontlinjen: inspektera system, kräva revisioner och övervaka användningen av beräkningskapacitet och energi. Två personer sade till The Information att Altman verkade stödja förslaget.

Det andra alternativet kallade han ”Demis-planen”, efter Google DeepMinds medgrundare Demis Hassabis, som för ungefär ett decennium sedan föreslog en CERN-liknande institution för AI. I Altmans version går de ledande laboratorierna samman i en enda organisation, eller verkar under dess paraply, och organisationen tillhandahåller modeller till länder som samarbetar.

Det tredje alternativet är ”Eliezer-planen”, uppkallad efter AI-säkerhetsteoretikern Eliezer Yudkowsky. En utvecklare når först fram till självförbättrande AI och använder den ekonomiska makt som följer för att strypa konkurrenternas tillgång till beräkningskapacitet; med formuleringen som fick spridning skulle den ”smälta alla andras GPU:er”. ”Självklart tycker jag att den är fruktansvärd”, sade Altman enligt uppgift och tillade att han hade tagit med den ”för fullständighetens skull”.

OpenAI hade redan skissat på nästan hela den här menyn 2023

Tillsynsorganet är det äldsta förslaget på listan. I ett inlägg undertecknat av Altman, OpenAI-presidenten Greg Brockman och den dåvarande chefsforskaren Ilya Sutskever hävdade företaget att världen sannolikt ”förr eller senare kommer att behöva något i stil med en IAEA för arbetet med superintelligens” – en myndighet som kan ”inspektera system, kräva revisioner” och begränsa driftsättning över en viss gräns för förmåga eller beräkningskapacitet.

Samma inlägg skisserade ytterligare två vägar. Stora regeringar, stod det, ”skulle kunna inrätta ett projekt som många av dagens satsningar blir en del av” – en nära motsvarighet till den sammanslagning som Altman nu tillskriver Hassabis. Eller så skulle branschen ”gemensamt kunna enas” om att ”takten i AI-utvecklingen i frontlinjen begränsas till en viss nivå per år”.

Den sista formuleringen är en fartgräns. Enligt The Decoder klagade Altman internt över att det finns för få genomförbara förslag på en ”fartgräns” för AI-utvecklingen. Hans företag publicerade ett sådant förslag. Men det skapade aldrig någon instans med makt att genomdriva det.

Varför tillsynsorganet stannar på papperet: OpenAI säger att bolaget inte kan sakta in

Förklaringen kom vid samma möte. Altman sade enligt uppgift till personalen att de två första planerna kräver omfattande samordning och att OpenAI inte har råd att hamna på efterkälken nu, när både bolaget och Anthropic närmar sig börsintroduktioner. Crypto Briefing beskrev investerarnas logik: företag som förbereder en börsnotering vässar sitt försprång – de lämnar inte över det till ett konsortium.

En IAEA för AI kräver också att Washington och Peking går med på att släppa in inspektörer i sina mest känsliga laboratorier. Än så länge är till och med ett amerikanskt förslag om att de två länderna ska informera varandra om farliga AI-incidenter fortfarande bara en skiss, inte en överenskommelse, påpekar Forbes.

Det laboratorierna bygger i stället är en FINRA, inte en IAEA

Det styrningsprojekt som faktiskt pågår motsvarar inget av Altmans tre alternativ. OpenAI, Google och Anthropic arbetar med en självreglerande grupp, Standards Authority for Frontier AI, utformad efter FINRA, det privata organ som övervakar amerikanska mäklarfirmor. Latin Times beskriver ett ramverk för tester före lansering, incidentrapportering och ackreditering av revisorer, men utan bindande tillsynsbefogenheter. De tre företagen är fortfarande oense om vem som ska testa nya modeller. Metas Mark Zuckerberg och Nvidias Jensen Huang hävdar att regler av det här slaget främst skyddar de etablerade aktörerna, och i en antitruststämning i USA hävdas redan att säkerhetssamarbetet mellan företagen utgör en kartell.

Även etiketterna förtjänar en närmare granskning. Yudkowskys ursprungliga bild, ”bränn alla GPU:er”, var ett tankeexperiment om hur långt ett AI-system i linje med mänskliga värderingar skulle behöva gå för att stoppa en ansvarslös kapplöpning. Han skrev att det inte är vad han faktiskt skulle vilja se hända. Altmans ”Eliezer-plan” förvandlar den nödbromsen till en monopolseger. Enligt The Decoders återgivning av rapporten sade en källa att kommentaren uppfattades som en pik mot en konkurrent, med tanke på Yudkowskys kopplingar till Anthropic.

Enligt The Information planerar OpenAI att inom ett år besluta vilken väg bolaget ska ta. Branschens standardiseringsorgan siktar på att lanseras i slutet av 2026 eller början av 2027.

Tills OpenAI har valt fortsätter bolaget att köra vidare på den enda väg som inte fanns med på hans lista: själva kapplöpningen.

Taggar: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky