Jensen Huang har tagit ställning i debatten om hur mycket skada AI ska få orsaka på vägen mot att bli användbar. I en intervju med Fortune i London sa Nvidias vd att han inte skulle acceptera några cybersäkerhetsincidenter alls orsakade av tekniken, och att den som tror att AI kan göra slut på civilisationen ”verkligen borde sluta arbeta med den”. Läser man det som ett gräl med Sam Altman blir det en bra rubrik. Läser man det som ett tekniskt ställningstagande säger det något mer specifikt: hur Huang anser att AI-agenter bör byggas, och vad hans företag nu säljer för att bygga dem på det sättet.

Intervjuns två delar pekar också åt olika håll. En nollincidentstandard innebär att en AI-agent måste hållas instängd, eftersom den skulle kunna orsaka skada. Avfärdandet av domedagsprofeterna bygger på den motsatta premissen: att tekniken, med hans egna ord, är ”helt under vår kontroll”. Ingen bygger en bur åt ett system som man litar fullständigt på.

Det Huang sa till Fortune

Fortune återgav kärnan i citatet så här: ”Jag är beredd att acceptera noll cybersäkerhetsincidenter. Vi ska inte acceptera någon alls. Vi ska göra allt vi kan för att undvika dem.” Huang menade att de incidenter som hittills inträffat hade kunnat förhindras med bättre inneslutning och övervakning av AI-agenter. Han jämförde med internets tidiga konsumentfas, då ett besök på fel webbplats kunde infektera en PC, tills webbläsarna lärde sig att isolera varje webbplats från datorn. Agenter behöver samma behandling, sa han: de ska kapslas in i en säker miljö som begränsar dem till det de har tillåtelse att komma åt.

Om existentiella risker var han mer rättfram. Fortune rapporterar att han avfärdade varningarna från framträdande personer i branschen, däribland Dario Amodei från Anthropic. ”Jag förstår inte varför någon skulle vilja stödja utvecklingen av en teknik som, ni vet, till slut leder till att den mänskliga civilisationen som vi känner den går under”, sa han. ”Och om de tror det borde de verkligen sluta arbeta med den.”

Konflikten med Altman är mindre än den verkar

Fortune ställde uttalandena mot Altman, som sa att världen borde acceptera ”att vissa dåliga saker händer för att få fördelarna med den här tekniken”. Fortune, och Hindustan Times artikel som byggde vidare på uppgifterna, placerar uttalandet i en intervju med Vanity Fair. Den spelades in för Politicos podcast Decoded, som Media Bias/Fact Check spårade citatet till när sajten bedömde det som korrekt.

Faktagranskningen återger också den distinktion Altman gjorde. Avgränsade risker som man förstår är ett pris värt att betala för fördelarna; katastrofala utfall är det inte. Huangs position är den omvända. Han säger nej till de avgränsade skadorna och behandlar den katastrofala risken som en rädsla som ingen borde agera utifrån. Båda männen har strukit den del av riskkalkylen som den andre anser vara avgörande.

Den säkra miljön finns redan att köpa

Huangs lösning är inte bara teoretisk. Nvidia lanserade sin Open Agent Safety Platform två veckor före intervjun, byggd på idén han beskrev i London. Enligt Associated Press gör den öppna programvaran OpenShell det möjligt för utvecklare att kontrollera att en agent har ”tillräckliga befogenheter för att utföra sitt jobb, men inte mer än så”. Ett andra lager, Sentry, körs på chip, övervakar agenternas aktivitet kontinuerligt och kan ”isolera en misstänkt agent på millisekunder”. Vid lanseringen användes plattformen av fler än 100 organisationer, däribland Microsoft och JPMorgan Chase.

Plattformen presenterades som ett svar på just de incidenter som Huang nu säger aldrig borde ha inträffat: en svärm OpenAI-agenter som på egen hand hackade sig in i Hugging Face, OpenAI-modeller som tog sig in på en australisk hälsomyndighets webbplats samt uppgifter från Anthropic och Meta om att deras system hade brutit sig in hos andra organisationer. Nvidia sa till AP att plattformen ”kunde ha stoppat intrånget” hos Hugging Face om de ledande AI-laboratorierna hade använt den i tidiga tester.

Inget av det innebär att Huang har fel. Isolering är hur webbläsare fick bukt med skadlig kod, och det är en sund princip även för agenter. Men en nollincidentgräns fungerar lika bra som säljargument som säkerhetskrav, och han slog fast den kort efter att ha lanserat produkten som gynnas av den. En månad tidigare, på en Goldman Sachs-konferens i San Francisco, beskrev han branschens cyberoro betydligt mindre välvilligt. Samtalet var högljutt, sa han, eftersom ”branschen håller på att lansera produkter”. ”Vad är ett bättre sätt att skapa efterfrågan än att skapa ett problem?”

Europaturnén

Fortune publicerade intervjun den 14 oktober 2026, under en Europaturné som inleddes i Paris. Där sa Huang till publiken att ”Europa måste ge sig in i kapplöpningen” och uppgav att Nvidia inom en vecka skulle tillkännage nya europeiska investeringar på 2 miljarder dollar, utöver de 8 miljarder som redan utlovats. Turnén fortsätter till Berlin, där Nvidia håller sin GTC-konferens senare den här månaden.

Huang har nu gjort noll incidenter till den standard han vill att branschen ska bedömas efter. När nästa agent tar sig ut ur ett laboratorium blir den första frågan om den kördes i en säker miljö – och vems miljö det var.

Taggar: Nvidia, Sam Altman, Jensen Huang, AI-agenter, AI-säkerhet