Företag

Meredith Whittaker: Signal-chefen som vill stänga ute AI-agenterna från dina chattar

Penelope H. Fritz
Lägg till oss på Google
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Född2000
YrkeOrdförande och chef för Signal Foundation
PriserHelmut Schmidt Future Prize

I fredags aktiverade Signal en inställning som de flesta användare aldrig kommer att märka. På nya iPhone-modeller hindrar appen nu Apples AI-assistent Siri från att läsa av vad som visas på skärmen i en chatt, och skärmdumpar blockeras som standard. På Android stänger appen fönstret så fort Googles Gemini försöker titta in. Meredith Whittaker, Signals ordförande, tillkännagav ändringen själv, och i samma inlägg erkände hon att den inte räcker. De agenter som Apple, Google och Microsoft bygger in i sina operativsystem kan fortfarande nå sådant som lagras på enheten, och på en Mac kan Signal inte stoppa dem alls. Hon kallade det ett existentiellt hot mot appen hon leder.

Striden passar henne, men den blottlägger också det dilemma som löper genom hela hennes karriär. Whittaker tillbringade mer än tio år på Google innan hon blev en av de vassaste kritikerna av den affärsmodell som betalade hennes lön. Nu leder hon en ideell budbärartjänst som vägrar samla in data, inte säljer någonting och är beroende av givare, men som ändå måste leva på telefoner byggda av just de företag vars AI-produkter hon kallar hänsynslösa. Signal kan kryptera ett meddelande från ände till ände. Operativsystemet går inte att kryptera.

Vägen in i tekniken var osannolik. Whittaker läste retorik och engelsk litteratur vid University of California, Berkeley, och började på Google 2006, där hon blev kvar i tretton år. Hon grundade företagets forskningsgrupp Open Research, som samarbetade med akademiker och utvecklare av öppen källkod kring mätning av nätneutralitet, integritet och säkerhet, och hon var med och grundade M-Lab, Measurement Lab, ett öppet nätverk som har blivit den största offentliga källan till data om internets prestanda.

Mätandet lärde henne att misstro påståenden som saknar belägg. År 2017 grundade hon tillsammans med forskaren Kate Crawford AI Now Institute vid New York University, efter ett symposium som Vita huset stod värd för. Institutet undersökte vad artificiell intelligens gör med de människor den används på, snarare än vad den kan åstadkomma i en demonstration, och dess rapporter återkom hela tiden till ett argument: att det djupare problemet var mindre en fråga om partisk kod än om vem som äger systemen och vem de riktas mot. Senare innehade hon Minderoo Research Professorship vid NYU och var vetenskaplig ledare för AI Now. I dag är hon institutets främsta rådgivare.

Det argumentet satte henne på kollisionskurs med arbetsgivaren. År 2018 skrev hon en namninsamling mot Project Maven, ett kontrakt med Pentagon där Google utvecklade verktyg för maskinseende åt USA:s drönarprogram. Mer än tretusen anställda skrev under, och Google förnyade inte kontraktet. Några månader senare var hon en av huvudorganisatörerna bakom Google Walkout, då mer än tjugotusen anställda lämnade sina skrivbord efter uppgifter om att företaget hade betalat ett avgångsvederlag på 90 miljoner dollar till Andy Rubin, en chef som anklagats för sexuella övergrepp. Whittaker har senare sagt att Google tog hämnd genom att beordra henne att överge sitt arbete vid AI Now. Hon lämnade företaget i juli 2019.

Samma sommar sa hon till representanthusets vetenskapsutskott att AI-system kan cementera fördomar, och bad om skydd för visselblåsare bland techanställda. I början av 2020 gick hon längre inför representanthusets tillsynsutskott och hävdade att problemet med ansiktsigenkänning inte bara handlade om träffsäkerhet utan om makten hos dem som använder tekniken mot människor med mindre makt, och krävde att användningen skulle upphöra. Från november 2021 var hon senior rådgivare i frågor om artificiell intelligens åt ordföranden för Federal Trade Commission, Lina Khan.

Signal anställde henne i september 2022 som sin första ordförande, en post som skapades i samråd med appens ledning. Signal har ingen reklam och inga användardata att sälja, och Whittaker har öppet sagt att driften kostar omkring 50 miljoner dollar om året. Stora delar av hennes första tid på posten gick åt till att förklara varför en budbärare som sparar nästan ingenting om sina användare ändå behöver ett stort utvecklingsteam och stadiga givare, och varför alternativet är att få betalt i form av övervakning.

Kritikerna pekar på den modellens begränsningar. Signals krypteringsprotokoll skyddar redan konversationerna i WhatsApp, men själva appen är fortfarande en bråkdel så stor som den Meta-produkt som bygger på dess kryptografi, och Whittakers inflytande över regeringar vilar till stor del på ett enda hot: att Signal hellre lämnar ett land än försvagar sin kryptering. Hon har riktat det mot Europeiska unionen och, återigen i juni, mot Storbritannien. Hotet är trovärdigt eftersom en donationsfinansierad app inte har några aktieägare att blidka, men det gör också att Signals svar till tillsynsmyndigheterna ligger närmare exil än förhandling. Episoden som gav appen dess största uppmärksamhetsvåg visade på en liknande klyfta. När det i mars 2025 uppdagades att höga amerikanska tjänstemän hade diskuterat militära planer i en Signal-grupp där en journalist av misstag hade lagts till, försvarade Whittaker krypteringen som guldstandard för privat kommunikation och påpekade att ingen applikation kan hindra människor från att lägga till fel person i en chatt. Publicitet i den skalan är svår att tacka nej till och ännu svårare att kontrollera.

Sedan dess har hennes fokus skiftat från regeringarna till de företag som tillverkar enheterna. I Davos i januari kallade hon AI-agenter i operativsystem farliga för krypterade tjänster och varnade för att ett system med root-åtkomst kan kapas. I en intervju med Bloomberg i juni sa hon att chattbottar inte är dina vänner och beskrev en assistent med tillgång till hennes betaluppgifter och hennes Signal-konto som en sorts bakdörr. Den här veckan visade tester som Reuters genomfört tillsammans med medarbetare från Signal och AI Now att Metas agent Muse läste Signal-chattar på Android via åtkomst till notiser, och Whittaker kallade agenter med den räckvidden teknologiskt hänsynslösa.

År 2023 tog TIME med henne på sin första lista över de mest inflytelserika personerna inom artificiell intelligens. I maj 2024 fick hon Helmut Schmidt Future Prize i Hamburg, som delas ut av Die Zeit och dess partner för insatser kring demokrati och teknik, och i juli 2025 gick hon med i styrelsen för den tyska mediekoncernen Hubert Burda Media.

Vad som händer härnäst beror mindre på Signal än på Apple, Google och Microsoft. Whittaker har bett alla tre om ett dokumenterat sätt för appar att hålla AI-agenter borta från sina skärmar och sina data, och Signal säger sig vara försiktigt optimistiskt över att Google och Apple går in i samtal. Om de bygger det blir blockeringen som hon aktiverade den här veckan en branschstandard. Om de inte gör det kommer den mest privata budbäraren på marknaden att fortsätta leverera lösningar som går runt de telefoner den körs på, och dess ordförande kommer att fortsätta säga det offentligt.

Taggar: , , , , , , ,

Lägg till oss på Google

Diskussion

Det finns 0 kommentarer.