Ray-Ban Meta-glasögon strömade intima inspelningar till Kenya utan att informera användarna

När Ray-Ban Meta-glasögon riktas mot ett rum spelar de in. Enligt en grupptalan som väckts i federal domstol i Kalifornien skickades inspelningen sedan till Sama, ett innehållsmoderingsföretag i Kenya, där arbetare granskade materialet och märkte upp det för träning av artificiell intelligens. Stämningsansökan beskriver inspelningar som inkluderade personer som besökte toaletten, klädde av sig, ägnade sig åt intimt umgänge samt barn under blöjbyte och bad. Ansiktena i materialet var identifierbara, påstår stämningen, trots Metas utlovade anonymiseringsinsatser.

Meta sålde dessa glasögon med ett specifikt löfte. ”Ray-Ban Meta smarta glasögon är byggda med integritet i centrum,” skrev företaget i sin marknadsföring vid lanseringen. Grupptalan hävdar att detta påstående inte var korrekt. Stämningen bygger på vittnesmål från Sama-arbetare, som i intervjuer med svenska grävande journalister tidigare i år beskrev vad de hade granskat.

En ändrad stämningsansökan som lämnades in i slutet av augusti utvidgar målsägandegruppen i en juridiskt betydelsefull riktning: den omfattar nu personer som aldrig köpt eller burit glasögonen – åskådare som förekom i inspelningar gjorda av någon annan på en restaurang, i ett hem, på en arbetsplats eller i ett offentligt utrymme. Advokaterna uppskattar att den utökade gruppen omfattar miljontals människor. Inkluderingen av åskådare, individer som inte hade någon relation alls till produkten, är den mest juridiskt nyskapande delen av fallet.

Det finns en skillnad värd att påpeka mellan vad stämningen påstår är olagligt och vad som är rutin inom AI-branschen. Mänsklig granskning av AI-träningsdata är standard inom hela sektorn. Företag som Apple, Google och Amazon har alla använt underleverantörer för att granska röstinspelningar, bilder och annan användardata för att förbättra sina modeller. Meta hänvisar just till denna jämförelse i sitt svar: att granska data för produktförbättring ”fungerar på samma sätt som många andra företag.” Den juridiska teorin här är smalare – att användare och åskådare aldrig informerades om att detta pågick i en produkt vars hela marknadsföring byggde på integritet.

Anklagelserna är ännu obevisade. Fallet befinner sig i ett tidigt skede av rättsprocessen, Meta har avvisat beskrivningen av vad Sama-arbetarna granskade, och domstolar har historiskt varit försiktiga med att utvidga talerätt till åskådarmålsägande som saknade direkt relation till en produkt. Clarkson Law Firm, som medför fallet, har en meritlista av att tänja på de juridiska gränserna för konsumentintegritetsmål – och en meritlista av att förlora några av dem.

Nästa tröskel är certifiering av grupptalan, där en domare kommer att avgöra om bärargruppen och åskådargruppen kan fortsätta tillsammans eller separat – eller över huvud taget. Det avgörandet kommer att bestämma om argumentet att åskådare har integritetsrättigheter över inspelningar tagna med hårdvara de aldrig valt att äga når ända till rättegång. Meta har sagt att man kommer att bekämpa anklagelserna.

Taggar: meta, integritet, AI-träning, wearables, grupptalan, Ray-Ban Meta