Google Earths AI-verktyg för deepfakes varade en dag — och skadade förtroendet det bygger på

Det snabbaste sättet att förstå vad Google just gjorde med Google Earth är att lägga märke till hur snabbt man ångrade sig. En funktion som lät vem som helst måla påhittad verklighet ovanpå planetens mest pålitliga karta dök upp, väckte en våg av oro bland dem som lever på att verifiera bilder – och var borta innan de flesta användare ens hann se den. Google kallade tillbakadragandet för en paus. Det känns mer som att ett företag, offentligt, upptäckte att man hade släppt fel sak på fel produkt.

Mekanismen är viktigare än spektaklet. Hela Google Earths värde är bevisande: det är dit journalister, domstolar, humanitära övervakare och öppen-källa-utredare går just för att en satellitvy är svår att förfalska. Skruva fast en prompt-till-bild-generator på den ytan och du har inte lagt till en kreativ leksak – du har urholkat den enda egenskap som gjorde produkten värd att lita på. Verktyget gjorde precis vad det var byggt för att göra. Det var problemet.

Googles försvar, före reträtten, var en vattenstämpel. Varje genererad bild, påpekade företaget, bar SynthID – dess osynliga markör för AI-innehåll – och användare kunde alltid kontrollera en bild med Gemini eller Lens. Men en vattenstämpel är ett forensiskt verktyg för människor som redan tvivlar på en bild och har möjlighet att granska den. Den gör ingenting i det ögonblick som faktiskt spelar roll – scrollandet, delandet, skärmdumpen som rycks ur sitt sammanhang och trycks in i ett flöde där ingen stannar upp för att verifiera. Att erbjuda SynthID som skydd var mindre en kontroll än ett alibi: ett bevis på att risken hade övervägts och vinkats igenom.

Vad omvärlden producerade på några timmar är den del Google borde begrunda. Forskare som lever på att granska sådana här system behövde inte veckor. De genererade ett kärnkraftverk i Iran, flyktingar som samlades vid en gräns, en bombkrater på ett sjukhus, en sprängkrater placerad i en västerländsk stad – exakt den typen av bilder som flyttar marknader, hetsar upp konflikter och springer ifrån varje rättelse. En utredare rapporterade att inget han bad om vägrades. Det är inte en berättelse om smart missbruk. Det är en berättelse om en lansering som inte verkar ha överlevt den mest grundläggande adversariella testningen innan den gick live – testning som främlingar sedan utförde gratis, på Googles bekostnad.

Bellingcats forskare har länge behandlat satellitbilder som en säker investering i en desinformationsekonomi, just för att källan satt långt ovanför och utom räckhåll. Farorna med ett sådant här verktyg handlar inte om en enskild förfalskning. Det handlar om den omgivande faran: när trovärdiga falska satellitbilder är triviala att skapa, blir varje äkta bild möjlig att ifrågasätta. Förfalskaren vinner även när förfalskningen avslöjas, för tvivel är produkten. Ett prejudikat finns redan – fabricerade satellitbilder av en skadad amerikansk bas cirkulerade under en nyligen inträffad Mellanösternkonflikt, sammansatta av jordbilder och AI. Google försökte just göra det arbetsflödet till en knapp.

Så ansvarsfrågan är inte huruvida Google agerade snabbt. Det är varför funktionen överhuvudtaget fanns, på just den här produkten, med en vattenstämpel som stod i stället för en skyddsbarriär. En livslängd på tjugofyra timmar är inte en triumf i lyhördhet; det är kvittot på en styrningsprocess som lät en förutsägbar skada ske och räknade med att internet skulle fånga upp den. Företaget säger att man kommer att återinföra funktionen med starkare kontroller. Den mer ärliga tolkningen är att Google spenderade en bråkdel av Google Earths hårdast förvärvade tillgång – dess trovärdighet som bevis – för att ta reda på om man kunde komma undan med bytet.

Det kunde man inte, den här gången. Men kartan har redan visat sig vara målningsbar, och den kunskapen rullas inte tillbaka med funktionen.

Taggar: Google, deepfakes, Google Earth, Nano Banana, satellitbilder