Google tog bort sin satellitmaps-AI ett dygn efter lansering

Google Earth har under två decennier etablerat sig som den självklara visuella referensen för alla som vill verifiera hur den fysiska världen faktiskt ser ut. Journalister använder det för att dokumentera konfliktområden. Människorättsforskare använder det för att spåra interneringsanläggningar. FN-inspektörer konsulterar det från tryggheten på ett kontor. Google gav det nyligen en ny funktion: en AI-bildgenerator direkt integrerad i satellitkartan.

Verktyget, som bygger på Nano Banana 2, Googles egen bildgenereringsmodell, fungerade precis som utlovat. Användare skrev en textprompt – ’visa Pompeji före utbrottet’ eller ’gör om den här kustlinjen till en infografik’ – och AI:n lade genererade bilder över motsvarande verkliga koordinater. Legitima användningsområden var lätta att föreställa sig. De farliga visade sig vara lika lätta att genomföra.

Henk van Ess, en undersökande journalist, var bland de första att dokumentera problemet. Inom några timmar efter lanseringen genererade han ett fiktivt kärnkraftverk över en plats i Iran. Resultatet var tillräckligt övertygande för att illustrera risken. Mer oroande var vad som hände när han testade den inbyggda säkerhetsåtgärden: Google hade bäddat in SynthID-vattenstämplar – företagets AI-autentiseringslager – i varje genererad bild. Van Ess besegrade det genom att fotografera sin skärm istället för att ta en skärmdump. Tredjepartsverktyg för AI-detektion bedömde den resulterande bilden som endast 1 procent sannolik att vara AI-genererad.

Googles försvar var tekniskt korrekt men praktiskt taget otillräckligt. Företaget noterade att genererade bilder ’inte syntes i huvudupplevelsen av Google Earth för andra att se’ – de var sessionsspecifika, synliga endast för skaparen. Den distinktionen faller samman när du fotograferar skärmen och delar resultatet. En fabricerad satellitbild av en känslig anläggning, som cirkulerar med inget annat än en bildtext, går inte att särskilja från en som skapats för att lura.

Det finns en strukturell spänning här som starkare skyddsräcken kanske inte helt kan lösa. Samma kapacitet som gör AI-bildgenerering användbar gör den också farlig när den underliggande källan är betrodd satellitdata. Det förtroendet bygger på antagandet att det Google Earth visar speglar den fysiska verkligheten. I samma ögonblick som genererat innehåll kan läggas över verkliga koordinater – och autentiseringslagret besegras av en kamera – får det antagandet en spricka som inte sluter sig när funktionen tas offline.

Funktionen drogs tillbaka den 31 juli, mindre än 24 timmar efter lanseringen. Google medgav att man sett ’skärmdumpar av genererade bilder som verkar bryta mot våra policyer’ och åtog sig att implementera ’starkare skyddsräcken’ innan en eventuell återlansering. Ingen tidsplan angavs. Tidpunkten lägger till ytterligare ett lager: från och med den 2 augusti är EU:s AI-förordnings fullständiga verkställighetsbestämmelser i kraft över hela Europa, vilket gör det obligatoriskt att märka AI-genererat innehåll som skulle kunna lura användare – inklusive, precis, syntetiska bilder inbäddade i betrodda informationskällor.

Taggar: Google, AI, deepfakes, Google Earth, satellitbilder, désinformation