Tvåfaktor spelade ingen roll när Metas AI återställde Instagram-lösenord

Meta byggde en AI-driven supportassistent för att ta hand om det tråkiga arbetet med kontoåterställning, och under en enda helg upptäckte folk att de kunde prata den till sig att lämna ifrån sig konton som inte var deras. Genom att be chattboten lägga till en ny e-postadress på ett utvalt Instagramkonto och sedan begära ett nytt lösenord tog angriparna över profiler de inte hade något med att göra, även sådana som skyddades av tvåfaktorsautentisering. Verktyget som skulle ge tillbaka åtkomsten till ett låst konto blev den snabbaste vägen att stänga ute den rätta ägaren.

Metoden var nästan förolämpande enkel. Angriparen använde först en VPN för att få sin uppkoppling att se ut att komma från offrets del av världen, eftersom Metas supportflöde lutade sig mot platsen som en tillitssignal. Därifrån öppnade angriparen en chatt med assistenten och bad den koppla en e-postadress under egen kontroll till målkontot. Boten mejlade en verifieringskod till den nya adressen, angriparen klistrade tillbaka koden i samtalet, och assistenten svarade med att visa en knapp för att återställa lösenordet. Ett nytt lösenord senare bytte kontot ägare.

Det som skiljer det här från ett vanligt intrång är att ingenting faktiskt bröts upp. Det fanns ingen skadlig kod, ingen läckt databas med inloggningsuppgifter, ingen falsk sida utklädd till inloggningsruta. Plattformens eget supportverktyg gjorde jobbet och följde sina instruktioner precis som de var skrivna. Angriparen besegrade inte Instagrams säkerhet utan bad den artigt att kliva åt sidan, och den klev åt sidan.

Det är den här ordningsföljden som gör händelsen viktig för alla med en Instagram-inloggning. Tvåfaktorsautentiseringen, skyddet som experter i ett decennium uppmanat folk att slå på, hjälpte ingenting här. Angriparen behövde aldrig offrets lösenord, dess telefon eller en kod från en autentiseringsapp, eftersom AI-agenten kunde återställa lösenordet på egen hand. När ett supportsystem kan köra över varje annat lås på dörren slutar låsen att betyda särskilt mycket.

Kontona som drog mest uppmärksamhet var profilerade. Bland dem fanns Instagramkontot kopplat till Vita huset från Obama-tiden, vilande sedan 2017, och kontot för John Bentivegna, högsta underbefäl i USA:s rymdstyrka. Säkerhetsforskaren Jane Wong, känd för att plocka isär appkod, såg sitt eget konto glida bort. Lösenordet ändrades utan att hon visste om det, berättade hon, och under en hel dag kom återställningsförsök medan appen loggade ut henne gång på gång. Vanliga användare beskrev samma sak, även om Meta inte sagt hur många som drabbades.

Händelsen är mindre ett fel i en kodrad än en fråga om vad dessa agenter får göra. Meta breddade tidigare i år sin AI-drivna support och lät assistenten sköta lösenordsbyten och kontoproblem som förr krävde en människa eller ett stelt formulär. Att ge en samtalsmodell makt över kontoåterställning tog bort friktionen för riktiga användare och, som det visade sig, för alla andra också. En mänsklig handläggare hade kanske tvekat när en främling bad att få byta e-post på ett konto. Boten följde bara manuset den fått.

Meta säger att hålet är täppt, men flera saker bör dämpa lättnaden. Företaget har inte uppgett hur många konton som togs över före rättningen, vilket lämnar offren utan en klar bild av skadan. Enligt 404 Media hade tekniken cirkulerat på Telegram sedan mars, vilket betyder att dörren kan ha stått öppen i veckor innan den blev offentlig. Och designen under, att lita på en platssignal som en VPN kan förfalska och på en e-postslinga som angriparen helt kontrollerar, pekar på en verifieringsmodell som var tunn från början.

Säkerhetsforskare har en tid varnat för att AI-agenter inkopplade i levande system öppnar en ny attackyta, en där sårbarheten inte är felaktig kod utan en övertygande begäran. Det här är ett av de första storskaliga fallen som bevisar det med vanliga konsumentkonton i stället för en labbdemonstration. Manipulationen krävde ingen teknisk skicklighet alls. Den krävde att veta vad man skulle säga, riktat mot ett system byggt för att vara hjälpsamt först och misstänksamt sedan.

Tills vidare är det praktiska rådet odramatiskt. Den som under helgen märkte oväntade mejl om lösenordsåterställning eller plötsliga utloggningar bör kontrollera vilka e-postadresser och telefonnummer som är kopplade till kontot och ta bort allt som inte känns igen. Tvåfaktorsautentisering är fortfarande värd att ha på för de många attacker den faktiskt stoppar, även om den inte vägde någonting i den här.

Instagrams talesperson Andy Stone bekräftade på måndagen att problemet var åtgärdat och att företaget säkrade de drabbade kontona. Det Meta inte tagit upp är den större designfrågan som dess egen lansering väckte i våras: hur mycket makt en automatiserad agent bör ha över miljarder människors konton, och vad som hindrar nästa samtal från att sluta på samma sätt.

Taggar: cybersäkerhet, kontokapning, meta