Sju kinesiska AI-laboratorier tappade 151 miljoner Claude-samtal i hemlighet

Sju kinesiska AI-företag har i månader i hemlighet matat sina egna AI-modeller med stulna Claude-svar, och Anthropic har nu namngett vart och ett av dem. Laboratorierna – Alibaba, DeepSeek, Moonshot AI, Xiaomi, Zhipu, MiniMax och SenseTime – använde nätverk av bedrägliga konton för att skicka sina användares konversationer till Claude, samla in svaren och använda dem för att träna billigare konkurrerande modeller. Processen kallas destillation, och i den skala som Anthropic dokumenterat är det den största obehöriga AI-träningsoperation som någonsin offentliggjorts.

Alibaba drev den största kampanjen. Mellan maj och juli 2026 loggade dess verksamhet 151 miljoner Claude-utbyten med hjälp av över 3 500 bedrägliga konton, med en topp på ungefär 3 miljoner stulna konversationer per dag. Moonshot AI – företaget bakom Kimi-assistenten som används av tiotals miljoner människor – genomförde 23 miljoner utbyten och dirigerade om cirka 300 000 av sina egna kunders aktiva sessioner genom Claude via ett proxynätverk med 5 380 falska konton. DeepSeek loggade 12,1 miljoner utbyten på 14 dagar. Zhipu, Xiaomi, MiniMax och SenseTime lade till hundratusentals fler, där SenseTime tog det ovanliga steget att köpa Claude-utskrifter direkt från tredjepartsleverantörer av data.

Volymen är slående, men innehållet är viktigare. Anthropic uppgav att de stulna utbytena innehöll känslig information från enskilda användare, stora multinationella företag och statsanknutna organisationer. Destillation behandlar AI-utdata som anonymt träningsmaterial per design, men dessa var inte anonymiserade sessioner. Det var livekonversationer från Kimi, Xiaomi AI och andra kinesiska appar, som passerade genom Claude i realtid, innan de matades tillbaka in i laboratoriernas egna träningspipelines.

Tekniken fungerar eftersom en starkare modells utdata kan lära en mindre modell att approximera samma resonemang – samma logik som en student tillämpar när den studerar en professors lösta uppgifter. Laboratorierna lade ut den svåraste delen av AI-utvecklingen på Claude och dess användare, utan att betala för det och utan att avslöja det. Anthropic säger att man upptäckte kampanjerna från och med februari 2026, med de största operationerna som pågick fram till juli.

Inget av de sju företagen har offentligt svarat på Anthropics redogörelse. Den tystnaden är anmärkningsvärd: destillation är en standardteknik inom AI-forskning, men att genomföra den i industriell skala med hjälp av bedrägliga konton, i strid med en konkurrents användarvillkor, med användarnas levande personuppgifter bifogade, går utöver vad branschen tidigare har dokumenterat.

Anthropic har vidtagit åtgärder för att täppa till exponeringen. Företaget förbjuder återförsäljarkonton från regioner där dess tjänst inte officiellt stöds, inklusive Kina, Ryssland och Iran. Man har också uppdaterat Claude för att sammanfatta sitt interna resonemang innan det levererar ett slutgiltigt svar – en förändring som är avsedd att göra råa resonemangsspår svårare för konkurrenter att replikera. Ett nytt system kallat ’preserved thinking’ krypterar dessa spår så att de inte kan extraheras genom promptmanipulation.

Motåtgärderna adresserar den tekniska attackvektorn men lämnar en svårare fråga öppen. Alla som använde Kimi, Xiaomis AI-assistent eller de andra drabbade apparna under den dokumenterade perioden kan ha fått sina konversationer fångade och bearbetade genom Claude utan deras vetskap. Anthropic har inte sagt om man kommer att meddela berörda användare, och de kinesiska laboratorierna har inte åtagit sig att avslöja praxisen för sina egna kunder.

Taggar: cybersäkerhet, Anthropic, Claude, DeepSeek, Alibaba, dataintegritet, Moonshot AI