Kung Charles varnar AI-byggarna for teknikens ’existentiella fara’

”De som har skapat dessa teknologier varnar nu alltmer för att AI riskerar att utveckla mörkare förmågor — kanske till och med att ta liv.” Meningen som kung Charles valde var ingen varning om hackare eller fientliga stater. Det var en spegel, hållen framför dem som bygger systemen, och varningen i den tillskrev han dem.

Det är den halvan av talet som det mesta av bevakningen skenade förbi. Meningen som spreds var den mjukare från samma anförande — om ”den existentiella faran med att sådana teknologier hamnar i fel händer.” Fel händer är en bekväm utgångspunkt om du är den som levererar verktyget. Den placerar faran där ute, hos någon skurk som missbrukar ett neutralt instrument, snarare än i själva instrumentet eller i företagen som tävlar om att göra det mer kapabelt. Charles vägrade att lämna det där.

Istället pekade han ut risken vid dess källa. Det är skaparna som nu slår larm, sade han — och ställde sedan en fråga till rummet med en udd: ”Vi behöver sannerligen tillräckliga kontrollmedel innan det är för sent?”

Tyngden i den meningen vilar på ett ord. Kontroll är det enda som en sammankomst som denna faktiskt inte kan överlämna. Den har ingen lagstadgad makt, sätter ingen gräns som ett företag måste lyda, och bär inget straff för att ignorera den. Det som framkom var en överenskommelse om att eftersträva ”gemensamma principer” — en fras som beskriver en strävan, inte en mekanism. Cheferna var, enligt alla redogörelser, tacksamma för samtalet. Tacksamhet är inget skydd.

Här finns en institutionell omvändelse som är lätt att missa under ceremonin. En monark har ingen hävstång över Nvidia, OpenAI, Anthropic eller Google DeepMind. Han kan inte licensiera en modell, granska en träningskörning eller sakta ner en lansering. De som kan göra dessa saker — lagstiftare, konkurrensmyndigheter, ministern som faktiskt satt i rummet — var inte de som sammankallade. En gestalt med symbolisk auktoritet och ingen verkställande makt bad människorna med all makt i världen utan verkställighet att snälla polisera sig själva. Det är ungefär den uppgörelse som branschen har föredragit hela tiden.

Läst på det sättet gjorde toppmötet byggarna en stilla tjänst. Det lät historien bli ”fel händer,” den inramning där teknologin är okej och bara dess missbruk är problemet. Det omvandlade en varning om inneboende förmåga — maskinen som utvecklar ”mörkare kapaciteter” på egen bana — till en välbekant debatt om onda aktörer. Och det svepte in alltihop i legitimiteten hos en krona som, hur uppriktig den än är, inte kan tvinga fram en enda rad av de skyddsåtgärder den efterfrågade.

Sammankomsten ägde rum på Dumfries House, kungens restaurerade 1700-talsgods i Ayrshire, Skottland. I rummet fanns Nvidias vd Jensen Huang, Google DeepMinds grundare Demis Hassabis, OpenAIs finanschef Sarah Friar, Anthropics högsta ansvariga för globala angelägenheter Tino Cuéllar, Storbritanniens AI-minister Kanishka Narayan och fader Paolo Benanti, Vatikanens rådgivare i tekniketik. Charles var noga med att också lyfta fram AI:s löfte — särskilt inom medicinen — och att ta upp dess miljökostnad. Han bad gästerna att hålla teknologin ”fast i mänsklighetens, samhällets och naturens tjänst.” Inget bindande åtagande lämnade rummet med dem.

Så de mäktigaste människorna inom området hörde ett statsöverhuvud beskriva deras produkt som kapabel att på egen hand ta liv — och gick ut med sin föredragna inramning intakt och en kunglig audiens att visa upp. De kontrollmedel som kungen bad om förblir exakt där de var innan han talade: i händerna på dem han vände sig till, och ingen annans.

Taggar: OpenAI, artificial intelligence, AI safety, AI risks, King Charles