Teknik

Wells Fargos nya villkor gör kunden ansvarig för AI-agentens misstag

Susan Hill
Lägg till oss på Google

Wells Fargo skriver om avtalet bakom bankens app och webbplats så att allt som en extern AI-agent gör på en kunds konto räknas som kundens egen handling. Banken uppger att den kommer att följa en agents instruktioner utan att kontrollera dem, inte kommer att övervaka vad agenten gör och kommer att behandla agentens misstag som kundens. ”Din användning av en AI-agent sker PÅ EGEN RISK”, står det i de nya villkoren, med versaler.

För den som har lämnat ifrån sig ett bankinloggningslösenord till en shoppingbot eller en budgetassistent förändras det vem som får betala när mjukvaran gör fel. En dubbelbetalning, en beställning som läggs tio gånger eller en överföring som utlöses av en bombfälla på en webbsida skulle hamna hos kontoinnehavaren och inte hos banken, om inte en lag säger något annat. Ingen behöver skriva under något: kunder som fortsätter att använda internetbanken efter ändringen anses ha godkänt den. ”Konsumenter godkänner mål, inte varje klick”, sa Kacy Kim, professor i marknadsföring vid Bryant University som studerar konsumentbeteende, till Wired.

Definitionen är bred. Wells Fargo kallar all mjukvara som vidtar ”autonoma, halvautonoma eller icke-autonoma åtgärder” på någons vägnar för en ”AI-agent”, vilket sträcker sig långt bortom de chattbottar som säljs som personliga assistenter. Kunden bär kostnaden när en agent missförstår instruktioner, gör saker som ingen har bett om, agerar på ”manipulerade indata” eller går utöver den behörighet den fått. Agenter som drivs av personer som kunden släpper in på kontot omfattas av samma regler, och ingen under 18 år får över huvud taget koppla in en agent.

Att stänga av en agent är också kundens uppgift. Enligt villkoren måste kunderna återkalla agentens åtkomst själva, spara bevis för att de har gjort det och lämna ut bevisen om banken ber om det. Tills de har meddelat Wells Fargo förblir de ansvariga för allt agenten gör. Det följer logiken i den amerikanska regeln om elektroniska överföringar, Regulation E, som behandlar överföringar som görs av någon du gett ditt kort eller din inloggning som auktoriserade tills du ber banken stoppa dem.

Wells Fargo släpper fortfarande in agenter, vilket placerar banken i den tillåtande änden av en bransch som håller på att stänga dörren. JPMorgan Chase har ändrat sina villkor för att förbjuda tredjepartsagenter som loggar in med kundens inloggningsuppgifter, Bank of America har varnat kunder för att dela sina inloggningar med agenter, och Citibank och PNC har lagt till egna varningar, enligt Wired. Morgan Stanley har blockerat tredjepartsagenter från sina plattformar, rapporterade Axios. Wells Fargo har behållit rätten att stänga av de anslutningar som agenter använder eller blockera enskilda agenter helt.

Motståndet sträcker sig bortom banksektorn. Amazon har blockerat Metas agent Muse från att göra inköp i sin butik, och United Airlines har sagt att personliga bottar inte kommer att kunna köpa flygbiljetter åt resenärer. American Express är det sällsynta undantaget i Wireds genomgång: företaget uppgav att vissa agentmisstag, som att beställa för många exemplar av en vara, i framtiden kan berättiga till ersättning om kunden inte får tillbaka pengarna från återförsäljaren.

Hur mycket de nya formuleringarna förändrar i praktiken är oklart. Klausulerna hänvisar upprepade gånger till ”lag eller förordning”, och ingen domstol har avgjort vem som bär förlusten när en agent som en kund har aktiverat gör något som kunden aldrig avsett. Publiken är dessutom liten. ”All vår data visar att de flesta inte ens vet vad agenter är, än mindre använder dem”, sa Forrester-analytikern Sucharita Kodali till Wired. Och bankerna är inte emot agenter i sig. ”De låser dörren för externa agenter och bygger sina egna”, sa Luca Cian, professor vid University of Virginia som studerar konsumentpsykologi och AI. Wells Fargos egen generativa AI-assistent har hanterat mer än en miljard interaktioner.

De nya villkoren gäller bara kunder i Wells Fargos amerikanska internet- och mobilbank, och alla banker som hittills nämnts är amerikanska. I Europeiska unionen styr redan betalningsreglerna appar som läser av eller flyttar pengar mot licensierade anslutningar som tillhandahålls av banken i stället för ett delat lösenord, vilket ger mindre utrymme för agenter som loggar in som kunden.

Det uppdaterade avtalet från Wells Fargo träder i kraft tisdagen den 24 november och gäller alla som fortsätter att använda bankens webbplats eller app efter den dagen. JPMorgans förbud mot agenter som använder inloggningsuppgifter kom i slutet av oktober, samma dag som Bank of America skickade sin varning. Wells Fargo har också behållit möjligheten att kräva att kunder registrerar sina agenter hos banken, vilket skulle ge banken en förteckning över de bottar som den säger sig inte övervaka.

Taggar: , , , , ,

Lägg till oss på Google

Diskussion

Det finns 0 kommentarer.