Teknik

OpenRouter slänger ut tre AI-leverantörer efter månader av stulna promptar

Adrian Kessler
Lägg till oss på Google

OpenRouter, tjänsten som många AI-appar använder för att skicka prompter till den modellleverantör som är billigast eller snabbast, har tagit bort tre av dessa leverantörer från sin plattform och dragit in märkningen Zero Data Retention för över hundra slutpunkter. Utlösaren var ett experiment där falska inloggningsuppgifter göts in i prompter, varpå forskarna höll utkik efter vem som försökte använda dem. Vissa av de prompter som läckte hade märkts som att de aldrig fick lagras.

Om du använder en chattbot, en kodassistent eller ett skrivverktyg som bygger på någon annans modell kan din text passera flera företag innan svaret kommer tillbaka, och vart och ett av dem kan läsa den i sin helhet. OpenRouter uppger att resultaten inte visade något intrång i de egna systemen. De svaga punkterna fanns längre ned i kedjan, hos de företag som faktiskt driver modellerna.

Forskningen kommer från Dragos, ett säkerhetsföretag vars forskningschef, HD Moore, ledde arbetet. Under fem månader skickade hans team nära två miljoner prompter, var och en med en webblänk, ett serverlösenord eller en Amazon Web Services-nyckel som inte fanns någon annanstans. En utlagd hemlighet kan bara läras av den prompt som bar den, så varje användning bevisar att någon har läst just den prompten. De första tokens användes inom några dagar.

Det allvarligaste fyndet var rent stöldgods. Angripare hade tagit sig in hos tre inferensleverantörer, och ingen av de tre visste om det förrän forskarna berättade. I det största fallet kopierades alla förfrågningar som skickades till en leverantör under några korta tidsfönster, även förfrågningar som leverantören avvisade innan någon modell ens hunnit köras, vilket placerar tjuven vid ytterdörren snarare än djupt inne i systemet. De stulna AWS-nycklarna testades, ibland inom några timmar, och användes sedan för att söka igenom lagring och hemlighetsvalv i tiotusentals API-anrop. Vissa av de stulna förfrågningarna bar flaggan för noll lagring.

Andra läckor krävde inget intrång. På en marknadsplats för återförsäljare listade säljare populära modeller till lägsta pris, slog på loggning av förfrågningar och behöll det som flödade igenom. En person på en hemanslutning i Frankrike tog lösenord från två prompter och försökte logga in som root via SSH, där varje försök knappades in för hand. Separat hämtade ett kinesiskt AI-labb de hemliga länkarna från mer än hälften av de prompter som skickades till dess modeller, inklusive omkring två tredjedelar av dem som var märkta för ingen datainsamling, och amerikanska leverantörer som säljer vidare dess modeller matade samma skrapare. En länk dök upp i en arbetschatt i Feishu, öppnad från sex enheter i Peking och Shanghai, 24 dagar efter en enda förfrågan.

Tre leverantörer har publicerat meddelanden. Phala uppgav att en angripare tog kontroll över en av dess inferensservrar och kunde se förfrågningar medan de bearbetades. Together AI uppgav att en AI-kodagent checkade in en inloggningsuppgift i ett publikt GitHub-repo, vilket gjorde att en inkräktare kunde ladda ned lagrade promptprover och testa lösenorden i dem; fem av dem var forskarnas lockbete. Novita uppgav att ett routingfel skickade vidare vissa MiniMax-förfrågningar till MiniMax egen tjänst.

Saneringen har tydliga begränsningar. OpenRouter har inte namngett de tre leverantörer som togs bort, Dragos har inte namngett de tre som visade sig vara drabbade av intrång, och ingen av dem har sagt om det rör sig om samma företag. En av de drabbade leverantörerna hade enligt forskarna fortfarande inte offentliggjort sin incident. Att slänga ut en leverantör kan heller inte återkalla prompter som redan kopierats: utlagda nycklar och länkar användes fortfarande veckor efter de första stölderna. Och den som använder en app byggd på dessa gateways har oftast inget sätt att se vilken leverantör som hanterade ens text.

Moores råd utgår från en begränsning: en integritetsflagga binder bara det första steget, och AI-agenter skickar vad de kan läsa, inloggningsuppgifter inräknade. Egen drift är den enda uppsättning där ingen tredje part läser en prompt. Att gå direkt till en enda stor leverantör lämnar ett avtal och en integritetspolicy att kontrollera, och användare av routrar bör själva välja uppströmsleverantörer i stället för att godta den billigaste poolen.

Dragos publicerade sina resultat den 19 november. OpenRouter mejlade drabbade kunder och publicerade sitt incidentmeddelande under den följande helgen, och Phala uppmanar alla som skickade hemligheter till en DeepSeek-modell via gatewayen mellan den 21 oktober och den 8 november att byta ut dem. OpenRouter säger att man bygger in forskarnas tester med lockbetesprompter i den egna plattformen så att kontrollerna körs löpande, och att borttagna slutpunkter får tillbaka märkningen för noll lagring först efter garantier och validering. Dragos samarbetar nu med ett dussin leverantörer.

Som Moore uttryckte det är vart dina prompter tar vägen ett beslut, ”och om du inte fattar det fattar lägsta pris det åt dig.”

Taggar: , , , , ,

Lägg till oss på Google

Diskussion

Det finns 0 kommentarer.