Teknik

Metas AI-agent Muse läste Signal-chattar på Android, men stoppades på iPhone

Adrian Kessler
Lägg till oss på Google

Metas Muse, AI-agenten som svarar på mejl, bokar tider och handlar åt dig, läste privata Signal-meddelanden på en Android-telefon utan att gå via de appkopplingar som Meta uppmanar användarna att hantera. Den tog sig in genom en behörighet som de flesta ger utan en tanke: åtkomst till telefonens aviseringar. Samma försök misslyckades på en iPhone.

Upptäckten kommer från tester som Reuters genomförde tillsammans med anställda på Signal och AI Now Institute, en ideell organisation som studerar AI:s effekter på samhället. De ville återskapa något som en Meta-anställd hade beskrivit internt: att Muse oombedd påminde henne om att svara på ett meddelande från hennes syster på Signal. ”Det här verkar vara ett extremt integritetsintrång. Jag har definitivt inte gett den åtkomst till andra appar, och jag minns inte att jag blev tillfrågad om det”, skrev hon. Om du använder Muse på Android är det appens aviseringsåtkomst som är avgörande, och om du stänger av den förlorar agenten insyn i förhandsvisningarna av dina meddelanden.

På en Mac hittade testarna en andra väg. Muse kombinerade skärmdumpsverktyget med macOS tillgänglighetsfunktioner, de kontroller som Apple bygger så att personer med funktionsnedsättning kan använda en dator, för att läsa meddelandena. I båda fallen gick den förbi Metas eget verktyg Connector, panelen där användarna väljer vilka appar agenten får röra, och lutade sig i stället mot behörigheter som beviljats vid den första installationen. En av den anställdas kollegor berättade i samma interna grupp att Muse hade levererats förinställd med tillstånd att läsa pushaviseringar på hans Android-telefon.

Reuters har gått igenom mer än två dussin interna inlägg där Meta-anställda larmat om att Muse gjort saker som ingen bett om, och en del går långt utöver att läsa meddelanden. En anställd som pratade med agenten om fiskeväder fick en extra rad: ”BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57.” Han hade aldrig delat några bankuppgifter med Muse. En annan erbjöds hjälp att skriva till en säljare om ett soffbord, och när han frågade vad det betydde svarade Muse att den ”pulled in some context about a coffee table pickup that doesn’t seem to be yours”. Han anmälde ett ”possible cross-account context leak”.

Meta ifrågasätter tolkningen av dessa episoder. Talespersonen Daniel Roberts kallade exemplen ”isolated incidents”, sade att Muse når andra appar enbart genom behörigheter som människor uttryckligen ger, och att många misstänkta kontoförväxlingar var hallucinationer som redan har åtgärdats. En medlem av Superintelligence-teamet, som bygger Muse, berättade för personalen att agenten verkade hitta på meddelanden som svar på inbyggda uppmaningar som får den att engagera användarna mellan sessionerna, och att dessa påhitt lutar ”towards the most uncomfortable topics, like finances/security/safety”. Reuters kunde inte fastställa om Muse delade ut andra människors verkliga uppgifter eller diktade ihop dem. Inget av svaren är lugnande hos en assistent som ber om tillgång till din e-post, din kalender och dina betalkonton.

Vissa av misstagen kostar pengar. Anställda rapporterade att Muse hittat på priser på saker de köpt, och en uppgav att den bokat en Airbnb-vistelse utan återbetalning och utan tillstånd. Ars Technica, som hänvisar till samma rapportering, beskrev en testare som flyttades över till en husdjursförsäkring för 888 dollar i månaden i stället för 200. Metas användarvillkor gör användarna ansvariga för vad agenten gör. Företaget säger att varje agent körs i sin egen isolerade virtuella maskin och att människor behåller full kontroll över vilka appar de kopplar in, ett argument som Mark Zuckerberg har använt för att avfärda krav på branschövergripande säkerhetsstandarder för AI.

Det är skalan som gör att frågan angår fler än Metas kontor. Muse har passerat 10 miljoner nedladdningar sedan lanseringen i USA i september, marknadsförd till de 3,6 miljarder människor som använder Facebook, Instagram och WhatsApp, och Meta uppger att ungefär en fjärdedel av dem som installerar den återvänder varje dag. Aviseringsbehörigheten fungerar på samma sätt på vilken Android-telefon som helst där appen är installerad.

Signals ordförande Meredith Whittaker sade att Meta lanserat Muse ”without showing any respect for basic privacy or cybersecurity” och kallade agenter med så långtgående tillgång till människors enheter ”technologically reckless”. Hon vill att appar som Signal ska få ett enhetligt tekniskt sätt att markera sig som förbjudna för AI-agenter, att AI-bolagen ska respektera det och att tillverkarna av operativsystem ska se till att det efterlevs.

Apple och Google sade båda till Reuters att de överväger ändringar som ger människor mer kontroll över vad de ger AI-agenter tillstånd att göra, även om Google påpekade att människor redan ”must deliberately grant permissions” för att en app ska kunna läsa Android-aviseringar. Apple har agerat snabbare: en macOS-uppdatering den här veckan begränsar kraftigt hur utvecklare får använda tillgänglighetsverktyg på Mac och lägger till en ny uppsättning behörigheter skrivna för agenter, vilket stänger den väg som testarna använde. Google har inte aviserat någon motsvarande åtgärd. På Android är det för närvarande bara en reglage i inställningarna som håller dörren låst.

Taggar: , , , , , , ,

Lägg till oss på Google

Diskussion

Det finns 0 kommentarer.