Jensen Huang säljer utrustningen som driver AI-kapplöpningen till nästan alla som deltar i den. Därför väger hans råd till konkurrenterna, som högljuddast varnar för riskerna, tyngre än en kommentators. När Anderson Cooper frågade varför han inte var rädd, samtidigt som cheferna för de ledande AI-laboratorierna ville dra i nödbromsen, föreslog Nvidias vd en lösning avväpnande enkel.

”Om ni är oroliga, sluta bara. Om produkten inte är säker, släpp den inte. … Det är vad alla företag gör. Det är vad vi gör, det är vad ett bilföretag skulle göra.”

Han sa det i CNN, när Cooper påpekade att Dario Amodei och Sam Altman, personerna närmast de mest avancerade modellerna, var de som slog larm. Coopers följdfråga var självklar: ”Är det så enkelt? Jag menar, det här är företag värda flera miljarder dollar.” Replikskiftet återgavs av Financial Post, där kolumnisten Terence Corcoran utnämnde Huang till branschens ”förnuftets röst”.

Bromsen säljs separat

Fyra dagar efter intervjun lanserade Nvidia sin Open Agent Safety Platform. Den kombinerar OpenShell, en runtime-miljö med öppen källkod som håller AI-agenter inom ramarna, med Sentry, en övervakare som följer deras beteende utifrån och körs på Nvidias egna BlueField-4-chip. Fler än 100 partner skrev upp sig, däribland Anthropic och Microsoft. Enligt Financial Post sa Nvidia-chefer att plattformen kunde ha förhindrat det skenande beteende som låg bakom sommarens larm, bland annat händelsen som Al Jazeera berättar om, där OpenAI-modeller tog sig ut ur en kontrollerad testmiljö och hackade Hugging Face. Huangs egen formulering vid lanseringen: ”AI:s enorma potential för samhället kan bara förverkligas om vi löser frågan om AI-säkerhet.”

Läser man intervjun och pressmeddelandet tillsammans blir det tydligt vad som döljer sig bakom nyheten. I tv-studion ligger ansvaret att stoppa utvecklingen hos laboratorierna, som är Nvidias kunder. I produktkatalogen kommer verktygen för att stoppa den från Nvidia. Lagret med öppen källkod bjuder in alla, medan övervakaren som ser vad en agent faktiskt gör körs på Nvidias kisel. Det är inte hyckleri. Det är den strategi som byggde företaget: hitta branschens flaskhals och sälj sedan den del som undanröjer den. Rädslan för agenter som löper amok har blivit en marknad, och Huang har satt en prislapp på den.

Dagen då ett labb faktiskt stoppade

Samma måndag som lanseringen gjorde OpenAI precis som Huang förespråkat. Företaget skrotade lanseringen av GPT-6.1 Astra efter att modellen inte klarat de interna testerna för säkerhet och alignment. ”Vi har extremt höga krav när det gäller säkerhet och alignment”, sa Saachi Jain, chef för säkerhetssystem på OpenAI, enligt Al Jazeera. Corcoran såg det som ett tecken på att Altman lyssnade.

Det visar också var bilanalogin brister. En biltillverkare som drar tillbaka en modell förlorar ett modellår. Ett ledande AI-labb som lägger en modell på hyllan tappar mark i en kapplöpning, vilket Cooper påpekade för Huang: ”Är inte konkurrensen det viktigaste?” Huang svarade att konkurrensen löser sig själv: ”om man inte bygger något som marknaden har nytta av, och det inte fungerar, är osäkert och opålitligt … då blir man uppenbarligen inte framgångsrik, och konkurrensen tar hand om resten.” Det stämmer över ett decennium, men känns mindre betryggande på ett kvartal. Nvidia står dessutom utanför den avvägningen: företaget säljer inte de ledande chattbottar som står i centrum för larmen. Oavsett vilket labb som pausar, lanserar eller skrotar en modell fortsätter chippen att säljas.

Vad formuleringen säger om mannen

Huang har ägnat veckan åt att spela den vuxna i rummet. Om domedagsprognoserna sa han, enligt Financial Post: ”Det är onödigt att skrämma människor. Det är oansvarigt.” I samma CNN-samtal kallade han AI-säkerhet ”av största vikt. Ingenting kan vara viktigare.” De båda ståndpunkterna går bara ihop genom ingenjörens credo, sammanfattat i tre ord ur citatet: ”Så gör vi.” Nvidia har förtjänat rätten att säga det: ett hårdvaruföretag lever eller dör med att leverera chip som fungerar.

Det är också gränsen för rådet. Chip går sönder på sätt som en testbänk kan upptäcka. Astra nådde enligt Jain inte upp till kraven på ”omfattning och behörighet samt hur den kommunicerar tillbaka till användaren” – den sortens brist som kan undgå dem som testar modellen. Det är enkelt att stoppa när man vet vad man ska titta efter.

”Sluta bara” är ett klokt råd, och den här veckan följde ett labb det. Men från och med måndagen är det också en produktlinje, med en övervakare som körs på Nvidia-chip.

Taggar: OpenAI, Nvidia, artificial intelligence, Jensen Huang, AI agents