OpenAI-chefen Sam Altman i FN: ”AI ska byggas för människor, inte bara för att få maskinerna att gå snabbare…”

Sam Altman har i flera år spelat två roller samtidigt: mannen som bygger marknadens mest kraftfulla artificiella intelligens och mannen som varnar världen för den. Inför FN:s säkerhetsråd försökte OpenAI-chefen hålla isär de två rollerna med en enda mening – och tagen för sig är det en bra mening.

”AI ska byggas för människor, inte bara för att få maskineriet att gå snabbare för sin egen skull.”

Han sade det till säkerhetsrådet, i uttalanden som återgavs av Analytics Insight, som en del av ett större resonemang om att kraftfulla system måste hållas under mänsklig kontroll och att reglerna för dem bör utformas av regeringar, inte bara av laboratorier. Formuleringen drar en gräns: på ena sidan AI byggd för människor, på den andra AI byggd för att skynda på utvecklingen för sin egen skull. I nästan vilken mun som helst skulle det låta som en självklar princip. När den kommer från vd:n för företaget som gör mest för att få maskineriet att gå snabbare blir den också ett påstående om vem som ska få bestämma var gränsen går.

Altman är en ovanlig person: både arkitekt och alarmist på samma gång. Vid samma talarstolar där han efterlyser skyddsräcken presenterar han system som är mer kapabla än de som låg bakom den senaste omgången utfrågningar. När han talade den 23 september tog han sig till en tyngre arena – från paneler i Davos och utfrågningar i senaten till säkerhetsrådet – men mönstret var detsamma: försiktighet i orden, acceleration i färdplanen. Inför rådet hävdade han att utvecklare ”inte bör träna modeller om vi inte med mycket starka skäl kan säga att vi kommer att kunna hålla dem under mänsklig kontroll”, och att de viktigaste besluten ”inte kan fattas enbart av laboratorier i San Francisco”.

Det är där meningen blir intressant, och där den behöver läsas noggrant. Den styrning Altman beskriver ska utformas av just de stater han talade till, och den som definierar vad det innebär att vara ”byggd för människor” avgör också vilka utvecklare som redan lever upp till kraven. Ett ledande AI-labb som hjälper till att skriva regelboken är inte en neutral part i frågan. Inget av detta gör varningen innehållslös. Risken han pekar på – att systemen utvecklas snabbare än institutionerna som ska övervaka dem och att besluten koncentreras till alltför få händer – är verklig. Att säga det öppet inför säkerhetsrådet höjer dessutom priset för alla som helst vill hålla frågan vag. Det betyder helt enkelt att budbäraren nu själv är en del av budskapet.

Välvilligt tolkat är formuleringen en etik: låt människan vara med i beslutsprocessen och se AI som ett verktyg för handlingskraft, inte som en maskin som gör människor till sina insatsvaror. Läser man den också för vad den är – ett strategiskt positionsdrag från branschens mest utsatta aktör – handlar det om att försöka sätta villkoren för de kommande reglerna och samtidigt låta som den vuxna i rummet. Båda tolkningarna kan vara sanna samtidigt. Det är just därför Altman är svår att avfärda och svår att lita på.

Maskineriet fortsätter att gå medan världen avgör vem det är till för. Om formuleringen är uppriktig kommer bara en sak att visa: om OpenAI saktar ner när ”för människor” och ”snabbare” till slut pekar åt olika håll.

Taggar: OpenAI, artificial intelligence, Sam Altman, AI safety, AI governance