ChatGPT lanserar tonårsläge — föräldrar kan begränsa men inte läsa chattar

ChatGPT beter sig numera annorlunda för tonåringar. OpenAI lanserade ChatGPT for Teens den 18 augusti, och systemet är automatiskt: användare som är mellan tretton och sjutton år får en version av produkten som redan är konfigurerad med striktare begränsningar än standardinställningen för vuxna. Ingen åtgärd krävs från tonåringen, och inget godkännande krävs från en förälder. Funktionen började rullas ut globalt samma vecka och förväntas vara fullt lanserad i alla marknader inom två veckor.

Föräldrakontrollerna, som nås via ett familjekonto, är mer genomtänkta än vad de flesta plattformar erbjuder. En förälder kan ställa in tysta timmar – specifika tidsfönster under dygnet då ChatGPT inte är tillgängligt för tonårskontot – och självständigt stänga av röstläge, bildgenerering eller den beständiga minnesfunktionen som låter ChatGPT komma ihåg detaljer mellan samtal. Var och en av dessa är en separat reglage. Det finns också en möjlighet att välja bort att OpenAI använder tonåringens konversationer för att träna framtida modeller, något som inte är aktiverat som standard på vanliga konton.

Vad föräldrar däremot inte kan göra är att läsa vad deras barn har skrivit till ChatGPT. Detta är ett medvetet designbeslut, inte en brist i implementeringen. OpenAIs ståndpunkt är att tonåringar som misstänker att deras konversationer kan delas med föräldrar helt enkelt inte kommer att använda produkten för de saker de faktiskt behöver hjälp med – och en tonåring som inte kan fråga en AI om något känsligt, utan att bli dömd, förlorar den mest användbara delen av tekniken. Kontrollerna ger föräldrar verktyg för att sätta gränser kring tid och läge; innehållet i konversationerna förblir privat.

Själva modellen har inbyggda begränsningar som gäller oavsett föräldrainsällningar. ChatGPT for Teens har en striktare hantering av ämnen som självskada, ätstörningar och våld. Modellen är tränad att omdirigera snarare än att engagera sig i dessa ämnen, och samma begränsningar gäller i Study Mode – en ny funktion som omvandlar svar till frågesporter och övningsfrågor istället för direkta svar. Study Mode är utformat för att stödja läxor utan att ersätta dem, och kräver att tonåringen själv letar fram information snarare än att bara kopiera den.

Frågan om åldersverifiering är där systemets begränsningar blir tydliga. OpenAI använder en åldersprediktionsmodell, inte en formell identitetskontroll, för att klassificera användare som tonåringar. Tonåringar som angav ett falskt födelsedatum när de först registrerade sig – en vanlig kringgåendemetod på åldersbegränsade plattformar – kommer sannolikt inte att omklassificeras. Lanseringen riktar sig mot nya konton och konton med korrekt registrerade födelsedatum. OpenAI har inte avslöjat hur stor andel av den befintliga användarbasen som faller inom åldersspannet 13 till 17, men forskare har konsekvent funnit att gruppen är stor och oproportionerligt tung i sin användning av AI-verktyg för akademiska ändamål.

Den bredare designlogiken här är värd att stanna upp vid. OpenAI försöker hålla två saker samtidigt: tillräcklig säkerhetsarkitektur för att tillfredsställa föräldrar och tillsynsmyndigheter, och tillräcklig integritet för att vara genuint användbar för tonåringar. De tysta timmarna och ämnesbegränsningarna adresserar det första; vägran att dela chattloggar adresserar det andra. Huruvida den balansen är korrekt är en fråga som rimliga människor kan vara oeniga om. Det som är anmärkningsvärt är att OpenAI gjorde avvägningen explicit – de valde tonåringars användbarhet framför föräldrars övervakning, och de sa det rakt ut.

ChatGPT for Teens finns nu tillgängligt på alla plattformar. Den globala tvåveckorsutrullningen inleddes den 18 augusti.

Taggar: artificiell intelligens, OpenAI, chatgpt, ChatGPT for Teens, digital säkerhet ungdomar, föräldrakontroll