Perplexity visade riskabla butiker i 15 procent av svaren, ChatGPT i 8 procent

Frågar du en AI-chattbot var du kan köpa ett visst märke på nätet kan svaret innehålla en falsk butik, en återförsäljare av kopior eller en gammal varumärkesdomän som numera tillhör någon annan. I en ny studie där ChatGPT, Gemini och Perplexity fick svara på tusentals shoppingfrågor visade det sig att alla tre länkade till sådana sajter, och att mindre märken var de enklaste måltavlorna. Om du använder en chattbot för att hitta presenter den här säsongen bör du vara lika försiktig med länken den ger dig som med ett sms från en okänd avsändare.

Studien kommer från Podqi, ett företag som skyddar varumärkens immateriella rättigheter, och delades exklusivt med The Verge. Podqi ställde frågor som vilken kund som helst skulle kunna skriva: vilka webbplatser som är bäst för att köpa ett visst märke, var man kan hitta det på nätet och om det går att få det levererat utomlands via regionala sajter. Definitionen av en riskabel sajt var medvetet bred och omfattade sidor som utger sig för att vara riktiga återförsäljare, butiker som säljer förfalskningar, utgångna varumärkesdomäner som registrerats på nytt av okända personer och nedlagda sajter som vem som helst kan köpa och återanvända.

Perplexity klarade sig sämst och visade en riskabel sajt i 15 procent av svaren. ChatGPT hamnade på 8 procent och Gemini på 4 procent, av sammanlagt 6 795 svar om 151 märken, från Lululemon, Birkenstock och Le Creuset till streetwearmärken som Stüssy och Madhappy. Siffrorna räknar varje förekomst, även när en chattbot nämnde en riskabel sajt för att varna för den. ChatGPT var mest försiktig av de tre, men varnade ändå bara för 24 procent av de riskabla sajter som förekom i svaren.

Frågor om regionala webbshoppar vållade mest problem. När chattbottarna fick frågor om butiker i specifika länder listade de ibland regionala sajter för märken som inte har några sådana. I ett utbyte pekade Perplexity ut fel sida som Stüssys officiella webbplats och kallade den ”den bästa utgångspunkten för garanterat äkta varor”. Frågor om stora företag ledde till riskabla sajter ungefär hälften så ofta som frågor om mindre företag. Ju mindre känt märket är, desto lättare kan alltså en bedragare slinka med i svaret.

Formatet gör problemet värre. En sida med sökresultat visar flera alternativ och låter dig välja, medan en chattbot nämner en eller två butiker i en självsäker mening som låter som en personlig rekommendation. AI-företagen marknadsför aktivt sina assistenter för produktresearch och prisjämförelser – precis när kunden står i begrepp att skriva in sitt kortnummer.

Studien har tydliga begränsningar. Podqi skrev egna frågor i stället för att analysera verkliga användarsamtal, och ett av märkena som testades, Madhappy, är kund hos Podqi. Företaget säljer också varumärkesskydd och gynnas därför av att problemet med falska identiteter framstår som ett allvarligt hot. Resultaten visar inte hur många som klickade på en riskabel länk eller förlorade pengar, och de speglar modeller som förändras med några veckors mellanrum.

Företagen kommenterade saken officiellt. Google sade sig vara nöjt med att Gemini presterade bäst och påpekade att tjänsten visar länkar till källor så att användare kan kontrollera svaren. OpenAI sade att företaget förbättrar skyddsåtgärderna för att minska risken att vilseledande sajter dyker upp i shoppingresultat. Perplexity försvarade sin träffsäkerhet och sade att företaget aldrig har påstått sig vara 100 procent korrekt.

Resultatet passar in i ett större mönster. I september varnade cybersäkerhetsföretaget Eset för att bedragare publicerar mängder av sidor fullproppade med sökord, utformade för att plockas upp av AI-verktyg och sedan återges för användare som tillförlitliga råd. Podqis medgrundare Trevor West ger ett enkelt råd: ”det är alltid bäst att kontrollera källan” innan du lämnar ut person- eller kortuppgifter. Testerna genomfördes i två omgångar under september, och tidpunkten är viktig för kunder överallt där de här chattbottarna används. Black Friday infaller den 27 november och Cyber Monday den 30 november, och då lockas miljontals förstagångsbesökare till butiker de inte känner till.

Taggar: OpenAI, chatgpt, Gemini, näthandel, Perplexity, bedrägerier