Teknik

Google kortar tiden att täppa till säkerhetshål när AI gör patchar till attacker

Adrian Kessler
Lägg till oss på Google

Varje säkerhetsuppdatering visar angripare var sårbarheten fanns, och en del har nu programvara som läser ut det åt dem. Googles hotunderrättelseteam upptäckte en kriminell verksamhet som jämförde webbappar före och efter en säkerhetsfix, räknade ut vad som hade åtgärdats, skrev en fungerande attack och satte den i verket – helt utan mänsklig inblandning. Googles egna säkerhetsforskare på Project Zero svarar med att ge programvarutillverkare kortare tid på sig att åtgärda de brister de rapporterar.

För den som brukar trycka på ”påminn mig senare” när en uppdatering dyker upp har den säkra väntetiden krympt till nästan ingenting. Project Zero utgår nu från att en attack kan komma så snart en säkerhetsfix släpps, och ser det som en rimlig bild av hur kriminella agerar. Föreställningen om en lugn period efter en fix, medan användarna hinner installera den, håller inte längre när en maskin kan baklängeskonstruera uppdateringen snabbare än de flesta hinner öppna inställningarna.

Sedan 2021 har Project Zero gett leverantörer 90 dagar på sig att åtgärda en rapporterad sårbarhet, plus ytterligare 30 dagars ”inkörningstid” för användarna att installera uppdateringen. Den extra månaden försvinner nu. Uppgifter om sårbarheter publiceras 90 dagar efter rapporteringen, oavsett om de har åtgärdats eller inte, och tidsfristen ska kortas ytterligare två gånger. Teamet slopar också de flesta undantag, däribland respitperioder. Enligt teamet har AI ökat den egna takten till flera sårbarheter i veckan i produkter där man tidigare hittade några få om året – för många för att förhandla om dem en och en.

Anthropic, vars modeller hör till dem som nu hittar sådana brister, går i samma riktning. Företagets Frontier Red Team kommer att offentliggöra sårbarheter med hög eller kritisk allvarlighetsgrad 30 dagar efter rapportering, i stället för 90, och övriga sårbarheter efter 45 dagar. Om en ansvarig utvecklare ignorerar den första rapporten kopplar teamet in en extern samordnare efter 15 dagar, i stället för 30. ”En tidsfrist på 90 dagar var rimlig när man kunde räkna med att en sårbarhet förblev hemlig i flera månader. Det tror vi inte längre”, skrev företaget. Det blir allt mer sannolikt att en annan modell hittar en bugg som en modell kan upptäcka, tillade företaget.

Attacken som oroade Google beskrivs i företagets senaste rapport, AI Threat Tracker. Utredarna upptäckte en oskyddad stagingserver med ett ramverk för flera AI-agenter kallat exploit_agent, byggt med verktyg på ryska och kopplat till både kommersiella AI-modeller och modeller som kördes lokalt. Servern jämförde fortlöpande olika versioner av populära webbprogram, och där fanns också data som stulits från offer. Enligt The Register visade telemetrin att operatören riktade in sig på franska webbplatser inom medier, underhållning och utbildning. Google nämner också andra AI-ramverk som används i kriminella angrepp, däribland ARTEX, CAIRN, HexStrike AI och PentAGI. De används av både vinstdrivna kriminella grupper och misstänkta spionagegrupper.

Kortare tidsfrister får inte i sig någon att installera säkerhetsuppdateringar snabbare. Leverantörer har sagt till Google att en omedelbar övergång till 30 dagar kan ge angripare tillgång till sårbarheter som ännu inte åtgärdats, medan företagen fortfarande bygger om sina processer för att reparera brister. De menar också att team kan känna sig tvingade att skynda igenom Project Zeros rapporter på bekostnad av allvarligare buggar som upptäckts av andra forskare. Därför inför Google förändringen stegvis. Anthropic gör undantag för kritisk infrastruktur och för sårbarheter som kräver att en teknisk standard ändras. Företagets policy omfattar inte heller AI-fynd som ingen människa har granskat. Google publicerade samtidigt varningen som en del av marknadsföringen för sin egen betalda försvarstjänst, Google AI Threat Defense.

Ingen av policyerna är begränsad till en viss region. Båda gäller alla företag vars programvara teamen undersöker, från mobiltillverkare till volontärdrivna projekt med öppen källkod, så pressen påverkar produkter som används på alla marknader. Den långsammaste länken är fortfarande det som Project Zero kallar uppdateringsglappet: tiden mellan att en fix släpps och att uppdateringen faktiskt når din enhet. Hur lång tid det tar kan bero lika mycket på mobiltillverkare, operatörer och apputvecklare som på dig.

Project Zeros 90-dagarsregel började gälla den 13 november 2026. Den 2 februari 2027 kortas tidsfristen till 60 dagar och den 3 januari 2028 till 30. Anthropics tidsfrister på 30 respektive 45 dagar gäller rapporter som skickas in den 1 januari 2027 eller senare. Utvecklare som redan har passerat sin tidigare tidsfrist på 90 dagar får ytterligare 30 dagar. Båda teamen har en separat, snabbare process för sårbarheter som redan utnyttjas i pågående attacker – i Anthropics fall sju dagar.

År 2028 kan det redan finnas en färdig attack mot uppdateringen du tänker installera i morgon.

Taggar: , , , , ,

Lägg till oss på Google

Diskussion

Det finns 0 kommentarer.