AI-klonade vd-röster lurade sjukhus och banker på 129 miljoner dollar

Rösten i telefonen lät som chefen, och juristen som ringde därefter lät som en delägare på en av världens största advokatbyråer. Men ingen av dem var verklig, enligt federala åklagare på Manhattan. De hävdar att tre män använde artificiell intelligens för att imitera vd:ar och jurister och övertalade ekonomipersonal på sjukhus, banker och andra företag att föra över pengar för hemliga affärer som aldrig hade existerat. Pengarna omvandlades till kryptovaluta och fördelades mellan de inblandade.

Fallet berör långt fler än företagen som förlorade pengar. Ingen bröt sig in i en dator. Upplägget byggde på något nästan alla kontorsanställda gör utan att tänka efter: att lita på en välbekant röst som ber om hjälp. En vd:s tal, rapportsamtal och medverkan i konferenspaneler är offentliga, och röstkloningsprogram kan utgå från den typen av ljudmaterial. Om en bedragare kan låta som din chef räcker ett telefonsamtal inte längre för att bevisa vem som finns i andra änden.

Åtalet, som lämnades in i New Yorks södra distrikt, gäller Jacob Soall, 41, bosatt i Marbella i Spanien och i Storbritannien; Sharon Hazan, 54, från Israel; och Guy Sheetrit, 42, från Israel och Förenade Arabemiraten. Var och en åtalas för sju brottspunkter, däribland konspiration för att begå bedrägeri via elektronisk kommunikation, grov identitetsstöld och penningtvätt. Åklagarna hävdar att gruppen kom över omkring 129 miljoner dollar från företag i USA och utomlands.

Enligt åtalet ändrades manuset sällan. Ofta började det med ett mejl skickat via en tjänst för elektroniska underskrifter, som DocuSign, till synes från målets egen vd. Mejlet bad om hjälp med en hemlig transaktion och innehöll ett sekretessavtal. Sedan följde telefonsamtalen, där de inblandade enligt åtalet använde AI för att efterlikna vd:ns röst och ibland även ansikte. Den falska vd:n kopplade över medarbetaren till en falsk jurist, som oftast lånade namnet på en verklig advokat vid en europeisk filial till en av de 50 största advokatbyråerna. Soall hade enligt åklagarna ett handskrivet manus med rubriken ”Lawyer Call” – ”Advokatsamtal” – där sekretess och regler mot insiderhandel användes för att hindra anställda från att prata med kollegor.

Offren namnges inte, men förlusterna i åtalet ger en bild av ekonomin i stort. Ett sjukhusnätverk i Missouri förde över 4 829 580 dollar. En bank i Rhode Island förlorade 2 684 580 dollar och ett sjukhusnätverk i Kalifornien 2 968 497 dollar. Ett brittiskt fintechbolag förlorade 11 578 474 dollar, ett fondbolag i Massachusetts 4 639 918 dollar och ett företag som säljer djurfoder i Florida 5 242 747 dollar. Pengarna gick till konton i USA, Spanien, Portugal, Grekland, Förenade Arabemiraten, Singapore, Österrike, Slovakien och Kina innan de omvandlades till kryptovaluta.

Ett av målen klarade sig. På en stor investeringsbank i New York godkände en anställd en betalning på omkring 2,85 miljoner dollar, men bankens backoffice stoppade överföringen innan den hann skickas, enligt åklagarna. Det som fungerade var att ytterligare en människa granskade betalningen – inte en deepfake-detektor.

AI-inslaget är nyare än själva brottet. I sitt tillkännagivande kallar justitiedepartementet verktygen för ”superintelligence”, medan åtalet talar om artificiell intelligens. Inget i de offentliga handlingarna tyder på att något annat än kommersiellt tillgänglig teknik för röst- och ansiktskloning användes. Resten följer en gammal handbok: falska mejl från företagsledningen, pengar som flyttas genom konton i flera länder och därefter penningtvätt. Åklagarna uppger att Hazan, som dömdes för konspiration för att begå bankbedrägeri i samma domstol 2008, skröt om att han hade tvättat mer än 400 miljoner dollar på tre år och var ”nummer ett över hela världen”. Det rör sig om anklagelser; ingen av de tre har dömts, och åklagarna har inte sagt hur mycket pengar som har återfunnits eller vilka kloningsverktyg som användes.

Företag har anat att något sådant kunde hända. Ingenjörsföretaget Arup förlorade omkring 25 miljoner dollar 2024 efter att en anställd i Hongkong deltagit i ett videosamtal där de andra deltagarna var deepfakes. Standardråden har inte ändrats: ring tillbaka till chefen på ett nummer du redan har, kräv att ytterligare en person godkänner stora överföringar och se krav på hemlighållande som en varningssignal. ”Jag uppmanar privatpersoner och näringslivet att fundera över hur de bäst kan skydda sig mot det framväxande hotet från brottslighet möjliggjord av SI”, sade USA:s federala åklagare Jamie McDonald.

Den påstådda konspirationen pågick från åtminstone juli 2024 till februari 2026. Soall greps i Spanien den 17 juni och Hazan i Spanien den 5 augusti, medan Sheetrit greps i Storbritannien den 7 september. Åtalet offentliggjordes under den första veckan i november, och begäranden om utlämning av alla tre är fortfarande under behandling. Bedrägeri via elektronisk kommunikation och penningtvätt kan vart och ett ge högst 20 års fängelse, och FBI uppmanar andra möjliga offer att höra av sig via myndighetens tipsida.

Banken som fick behålla sina pengar hade inte bättre AI. Den hade någon på backoffice som granskade överföringen innan den skickades.

Taggar: Folarin Balogun, Baker Mayfield, Meghan Markle, cybersäkerhet, deepfakes, röstkloning