Folk vänder sig till AI för psykisk hälsa för att den svarar – inte för att den hjälper

Något har tyst förändrats i hur människor tar sig igenom de värsta nätterna. När sinnet vänder sig mot sig självt och det inte finns någon att ringa, öppnar en växande andel vuxna nu en chatbot istället – inte för att de är övertygade om att den förstår dem, och ofta inte ens för att den hjälper, utan för att den svarar. Det är den obekväma kärnan i en omfattande ny undersökning om mental hälsa, och det är märkligare än rubriken antyder.

Den uppenbara tolkningen är en berättelse om tillit: människor som överlämnar sina inre liv till maskiner. Men tillit är fel lins. Det siffrorna beskriver är egentligen inget omdöme om huruvida tekniken är bra. Det är ett omdöme om tillgänglighet – det enkla faktum att chatboten finns där, och att den professionella inte finns där.

Studien, genomförd av försäkringsbolaget AXA tillsammans med opinionsinstitutet Ipsos på 19 000 vuxna i 18 länder, visade att 63% redan har vänt sig till AI-verktyg med frågor om sin psykiska hälsa. Det som gör siffran värd att stanna upp vid är motsägelsen som ligger bredvid den. Cirka 45% var missnöjda med svaren de fick. Och ändå sade 38% att de litar mer på dessa plattformar än på en mänsklig psykisk hälsovårdare. Människor är missnöjda med råden och sträcker sig ändå efter dem.

Det blir bara vettigt om kvalitet aldrig var den avgörande faktorn. En chatbot är byggd för att producera ett flytande svar, inte ett korrekt; den har ingen omsorgsplikt och ingen skyldighet att eskalera när den upptäcker att någon är i fara. Den svarar helt enkelt, omedelbart, gratis, utan remiss eller månader av väntan. “AI är tillgänglig dygnet runt, den är gratis, och den finns i din telefon när du är ensam klockan 23 på kvällen,” som AXA:s hälsochef uttryckte det. Det är hela värdeerbjudandet. Det är också hela problemet.

Undersökningen antyder priset för bytet. Bland personer som använder en chatbot för psykisk hälsa uppgav 42% att de nästan alltid följer råden den ger – och 28% sade att de agerat på en chatbots rekommendation och att det lett dem till skadligt beteende. Ett verktyg utan kliniskt ansvar behandlas som en första insats av de människor som är minst kapabla att hantera ett felaktigt svar.

Ställ det mot hur formella hälsosystem antar samma teknik, och två parallella världar träder fram. En separat ögonblicksbild från WHO:s europeiska kontor, den första i sitt slag i alla tjugosju EU-medlemsstater, visade att nästan tre fjärdedelar redan använder AI-assisterad diagnostik och ungefär sex av tio använder chatbotar för att stödja patientengagemang. Inne i kliniken kommer AI insvept i tillsyn, styrning och maskineriet för medicinskt ansvar. Utanför, på konsumentsidan, kör samma underliggande modeller utan något av detta – ingen information om vad de kan och inte kan göra, ingen överlämning när risk uppstår.

De människor som faller in i det andra systemet är, överväldigande, de som är utestängda från det första. Som en läkare som kommenterat undersökningen uttryckte det, människor integrerar AI i sina känsloliv “inte som ett tillägg till ett välfungerande hälsosystem, utan snarare som en tillgänglig ingång till vård som har förblivit ouppnåelig för de flesta.” Drivkraften är kostnad och tillgång, inte en övertygelse om att maskinen vet bättre. Missnöjdhetssiffran är beviset: användarna kan se skillnaden. De använder det ändå, eftersom alternativet är ingenting.

Inget av detta hävdar att AI inte har någon plats inom psykisk hälsa. Kliniker ser en verklig sådan – triage, kontinuitet mellan besök, en bro för människor som annars inte skulle få någonting alls. Men den version som sprids snabbast är den oreglerade, och den sprids just där insatserna är högst. Lösningen som dyker upp gång på gång är föga glamorös: verktyg som tydligt anger vad de inte är, och som överlämnar en person till en kvalificerad människa så fort de upptäcker att någon är i riskzonen.

Väntrummet tömdes inte för att människor blev friska. Det tömdes för att dörren för de flesta aldrig var öppen. AI vann inte en argumentation om vård. Den svarade bara i telefonen – och ingenting i andra änden är skyldigt att märka när samtalet går fel.

Taggar: WHO, AXA Ipsos-undersökning, chatbottar, digital hälsa, psykisk hälsa AI