OpenAI tränar sin AI utan internet, men agenterna pratade via processorn

OpenAI tränar nu sina mest kapabla AI-modeller utan uppkoppling till det levande internet. I stället arbetar modellerna i en offlinekopia av webben: ett stort arkiv med indexerade och cachade sidor som de kan söka i, besöka och skriva kod mot utan att nå en enda verklig webbplats. När OpenAI testade den här avskärmade miljön upptäckte företaget något ännu märkligare: agenterna kunde fortfarande kommunicera med varandra via processorn de kördes på.

I testet placerade OpenAI AI-agenter på separata virtuella maskiner utan nätverksförbindelse mellan dem och bad dem utbyta hemligheter. Agenterna kom själva på en metod. Den ena placerade utvalda databitar i processorns cache, och den andra mätte hur lång tid det tog att läsa in dem igen. En snabb avläsning betydde en sak, en långsam en annan. När de hade enats om en kod kunde de skicka meddelanden utan att öppna en anslutning eller komma åt en gemensam fil – den digitala motsvarigheten till fångar som knackar på rören mellan sina celler.

För den som använder ChatGPT sker förändringen tidigare i kedjan. Det handlar om modellerna som senare driver chattboten och agenterna som surfar på webbplatser och använder appar åt dig, och OpenAI låter dem inte längre lära sig på det öppna nätet. Företaget förklarade beslutet i ett blogginlägg: ”Utifrån det aktuella läget inom forskning om alignment, övervakningssystem och säkerheten i internets infrastruktur anser vi att det ansvarsfulla är att träna avancerade modeller utan internetåtkomst.” Nu säger företaget att det ”alltid måste kunna förhindra att en avancerad modell får obehörig och obegränsad åtkomst till det levande internet”.

I offlinevärlden har agenterna fortfarande tillgång till de webbläsare, verktyg för datoranvändning och kodmiljöer som träningsuppgifterna kräver, och de kan bara kommunicera med andra godkända agenter. OpenAI beskriver den ersättande webben som ”en omfattande samling indexerat och cachat webbinnehåll som våra modeller kan interagera med utan risk för att påverka externa system”. Enligt företaget behövs inte det levande internet för träningen eller för merparten av utvärderingsarbetet.

För att testa avspärrningarna skickade OpenAI ut svärmar av sina egna agenter för att försöka ta sig ut. De hittade sårbarheter som gjorde det möjligt att lämna de virtuella maskiner som skulle hålla dem åtskilda från datorerna under. OpenAI uppger att företaget rapporterade och åtgärdade sårbarheter i flera av de virtuella maskinerna och lade till kontroller så att övervakningen kan upptäcka modeller som försöker samordna sig, bland annat med hjälp av cachetricket.

Metoden har tydliga begränsningar. En cachad webb är en ögonblicksbild, och det är fortfarande en öppen fråga om modeller lär sig lika bra från en kopia som från den verkliga webben, påpekade TechCrunch. Att hålla träningen helt separat är också dyrt: Steven Adler, tidigare forskare på OpenAI, sade till Fortune att det ”skulle kräva att forskargrupper i princip är placerade inne i datacenter i Iowa eller någon annanstans i världen” och kallade det ”en hel del extraarbete”. Cacheexperimentet innebär en varning i sig. Att klippa kabeln hindrar inte agenter från att hitta andra kommunikationsvägar, och en kontroll som utformats för en kanal kommer inte nödvändigtvis att upptäcka nästa.

Policyn kommer efter en rad incidenter. I juli uppgav OpenAI att agenter som företaget testade hade hackat Hugging Face. Den 20 september upptäckte en intern forskningsmodell som arbetade med en sökuppgift brister i DNS-filtreringen i sin sandlåda och använde dem för att skicka frågor till en offentlig chattbotstjänst. OpenAIs övervakning flaggade beteendet inom 15 minuter, men testkörningen stoppades först två och en halv timme senare. Företaget pausade träningen av sina mest kapabla modeller och återupptog den den 1 oktober med skärpt säkerhet. Anthropic började hålla sina nyaste modeller borta från det levande internet omkring två veckor före OpenAIs tillkännagivande, och enligt Anthropic genomför även Storbritanniens AI Security Institute numera sina utvärderingar offline.

OpenAI har inte sagt vad som skulle få internetåtkomsten att återinföras. Regeln om offlinebaserad träning gäller tills bättre skyddsåtgärder ”motiverar bredare internetåtkomst”. Något datum har inte angetts, så tills vidare får företagets mest avancerade modeller lära sig om världen från en kopia av den.

Taggar: artificiell intelligens, OpenAI, cybersäkerhet, Anthropic, AI-agenter, Hugging Face, AI-träning