TikTok ska ha gett tonåringar en placeboknapp för att nollställa flödet, enligt New York

När tusentals TikTok-användare, däribland tonåringar och barn, tryckte på appens knapp för att radera sina rekommendationer och börja om hände ingenting, enligt nyligen offentliggjorda handlingar i New Yorks stämning mot företaget. De fick ett meddelande om att återställningen hade fungerat. I deras For You-flöde fortsatte samma sorts videor att dyka upp.

Verktyget som står i centrum för anklagelserna, Algo Refresh, är en av de få utvägar TikTok erbjuder den som hamnat i ett flöde som dragit iväg åt ett håll man inte längre vill följa. Tanken är att For You-sidan ska fungera som om kontot vore helt nytt. New York hävdar att vissa av dem som använde verktyget placerades i en testgrupp och fick en version som inte gjorde någonting, medan användare utanför experimentet fick en version som fungerade.

Enligt stämningsansökan jämförde TikTok sedan grupperna utifrån hur lång tid de tillbringade i appen och hur stora annonsintäkter de genererade. Där citeras också en intern invändning. En produktchef i TikToks team för Digital Well Being skrev i en chatt: ”Den här funktionen handlar om insyn i och kontroll över algoritmen”, och tillade: ”En placebogrupp går helt på tvärs med det.” New York hävdar dessutom att även den återställning som fungerade bara hade tillfällig effekt.

TikTok bestrider den beskrivningen. En talesperson uppgav för Reuters att ”vi regelbundet testar nya produkter och funktioner för att utvärdera användarupplevelsen och förstå hur de fungerar i verkligheten” och sade att stämningsansökan ger en felaktig bild av hur Algo Refresh fungerar. I en inlaga till domstolen medgav företaget att testerna ”kan omfatta en del av plattformens trafik som fortsatte att få den ursprungliga upplevelsen”, men förnekade att detta gjorde användarna mindre trygga.

Det finns verkliga begränsningar i vad som är känt. Det handlar om anklagelser i en ändrad stämningsansökan, inte om något en domstol har slagit fast, och de avsnitt som hittills offentliggjorts anger varken hur många som hamnade i placebogruppen, hur länge testet pågick eller vad det visade. Att testa en förändring mot en kontrollgrupp är standard i hela teknikbranschen. Frågan är om ett säkerhetsverktyg som används av minderåriga någonsin bör vara föremål för den typen av test. Målet gäller New York, och de handlingar som hittills rapporterats säger inte var de testade användarna bodde.

För den som använder knappen i dag är den praktiska poängen mer begränsad. En återställning är inget bevis för att algoritmen har glömt dig. TikToks sökordsfilter, inställningen för begränsat innehåll och möjligheten att dölja enskilda kreatörer är separata reglage, och återställningen ändrar inte dem.

Testerna som beskrivs i handlingarna genomfördes 2023, samma år som TikTok lanserade möjligheten att uppdatera For You-flödet. New Yorks delstatsåklagare Letitia James stämde företaget första gången i oktober 2024. Anklagelserna om placebotestet finns i en ändrad stämningsansökan som lämnades in under sekretess i slutet av augusti och som en domare beslutade skulle offentliggöras, rapporterade Reuters den 7 oktober.

Det är inte det enda experimentet i målet. Bloomberg rapporterade i augusti att TikTok undanhöll en separat säkerhetsuppdatering från omkring 10 procent av sina användare i USA, motsvarande ungefär 15 miljoner människor, och att en 16-årig New York-bo i den gruppen dog genom självmord 2022. Ingen domstol har kopplat dödsfallet till testet.

Över två dussin delstater i USA har stämt TikTok och anklagar företaget för att ha utformat appen så att barn fastnar i den och för att ha vilselett familjer om dess säkerhetsverktyg. Alabama, vars mål var det första som skulle prövas, nådde i september en förlikning på upp till 300 miljoner dollar. Något datum för rättegången i New York-målet har inte offentliggjorts.

Taggar: New York, tiktok, barns säkerhet, Algo Refresh, För dig