OpenAI och Anthropic vill bromsa AI – och det blir deras vallgrav

Det slående med den plötsliga entusiasmen för att sakta ner artificiell intelligens är inte att de som bygger den nu vill ha bromsar. Det är att de bromsar de beskriver är sådana som bara de själva bekvämt har råd med. När ledarna för de mest värdefulla AI-labbarna nästan unisont håller med om att fältet rör sig för snabbt, är säkerhetsargumentet verkligt – och detsamma gäller affärsargumentet som tyst ligger där under.

Utlösaren var ett samtal från Anthropics Dario Amodei om att ”taktfasta frontlinjen”: sakta ner takten i vilken modellernas förmågor förbättras, installera oberoende utvärderare i labben och få de ledande aktörerna i demokratiska länder att enas om gemensamma säkerhetsstandarder. Han beskrev den allmänna motreaktionen mot AI som, med hans egna ord, en förtroendekris. Inom kort sagt Sam Altman att han höll med, och att OpenAI redan hade diskuterat just detta; Elon Musk gav ett tvåordigt medhåll, ”Dario har rätt”. Rapporteringen behandlade det som ett försenat samvete som anlände på en gång.

Läs samma plan som analytiker snarare än säkerhetsansvarig och en andra bild framträder. Inbäddade tredjepartsgranskare, certifierad anpassningstestning, publicerade riskramverk och incidentrapportering är inte bara skyddsåtgärder; de är fasta kostnader. Och fasta kostnader är det mest pålitliga konkurrensverktyget ett stort företag äger, eftersom de faller på alla lika i dollar och på ingen lika i smärta.

Tänk på aritmetiken. De största amerikanska moln- och AI-infrastrukturleverantörerna har åtagit sig i storleksordningen 660 till 690 miljarder dollar i kapitalutgifter för det kommande året, med Amazon ensamt nära 200 miljarder och Alphabet, Meta och Microsoft vardera i hundratals miljarder eller nära det. Mot balansräkningar som dessa är en efterlevnadsregim – ett team av inbäddade utvärderare, ett årligt säkerhetsramverk, ett straff som Kalifornien takar på en miljon dollar per överträdelse – en avrundningsdetalj. För en startup som försöker nå frontlinjen är det hela startbanan.

Detta är inte längre hypotetiskt. Kaliforniens SB 53 definierar redan en ”stor frontlinjeutvecklare” genom två grindar: modeller tränade över en mycket hög beräkningsgräns, och mer än en halv miljard dollar i intäkter. Dessa företag måste publicera säkerhetsramverk och rapportera kritiska incidenter på snäva tidsramar. I Europa kräver AI-lagens artikel 55 att leverantörer av de mest kapabla allmänna modellerna genomför adversariella tester, mildrar systemrisker och rapporterar allvarliga incidenter. Golvet hälls; frågan är vem som är tillräckligt lång för att stå på det utan att märka det.

Den tydligaste signalen är vem som inte ber om bromsar. Planen namnger aldrig sina naturliga förlorare, men de är lätta att identifiera: labben vars hela modell är att ge bort vikterna – Meta, Frankrikes Mistral, Kinas DeepSeek och Alibaba. Som en avvikande analys uttryckte det, dessa är ”de fyra namnen som essän aldrig trycker”, tillverkarna av de gratis modeller som en betalande kund annars skulle kunna ladda ner istället för att hyra ett API. Du kan inte certifiera anpassningen av en modell som vem som helst kan modifiera på en eftermiddag, så en standardregim som riktar sig mot frontlinjen landar hårdast på öppna vikter. Och det öppna lägret vinner just de användare som de etablerade aktörerna helst skulle behålla: en kinesisk öppen modell, Qwen, räknar nedladdningar i miljarder där Metas Llama räknar i hundratals miljoner.

Inget av detta är nytt. Det är det äldsta draget i vilken reglerad industri som helst – den etablerade aktören välkomnar regelboken den har råd med, eftersom en kostnad som är trivial i dess böcker är en mur för en konkurrent. Ekonomer har ett enkelt namn för det, regulatorisk fångst, och det kräver inte ond tro. Ett säkerhetsargument kan vara helt uppriktigt och ändå fungera som en inträdesbarriär. Här är båda sakerna sanna samtidigt.

För Europa är insatserna skarpare än de ser ut. Kontinentens enda trovärdiga frontlinjeutmanare, Mistral, är just ett öppet viktlabb, och dess spanska och bredare europeiska kunder – startups som bygger produkter på billiga, modifierbara modeller – är de som förlorar mest om det globala efterlevnadsgolvet skrivs runt fyra amerikanska etablerade aktörer. En regelbok utformad i San Francisco och ratificerad i Bryssel kan skydda allmänheten och dra upp stegen bakom ledarna samtidigt.

Så välkomna säkerhetsvändningen: riskerna är verkliga och utvärderarna är försenade. Men se vad som kommer härnäst. Om de slutliga reglerna landar exakt där de fyra jättarna kan betala och ingen mindre kan, kommer nedgången inte ha taktfast frontlinjen så mycket som inhägnat den.

Taggar: OpenAI, Anthropic, AI regulation, Mistral, open-weight models