Common Sense Media beoordeelt ChatGPT for Teens als onaanvaardbaar risico

Op 7 oktober 2026 publiceerde het Youth AI Safety Institute, onderdeel van Common Sense Media, een risicobeoordeling van ChatGPT for Teens van OpenAI en gaf het de laagste score op de schaal: ‘Unacceptable Risk’. De test, uitgevoerd met meer dan 4.000 prompts vanaf accounts die geregistreerd waren als gebruikers van 13 tot 17 jaar, liet zien dat het systeem bij gevoelige gesprekken geen veiligheidsmeldingen geeft op net aangemaakte accounts die aan een ouder zijn gekoppeld, maar alleen op oudere accounts. Volgens Common Sense Media spraken testers op nieuwe, aan een ouder gekoppelde accounts tot een uur lang over suïcidale gedachten, zelfbeschadiging of eetstoornissen zonder dat de ouder ook maar één melding kreeg. De meldingen gingen pas af op oudere accounts, met al weken aan gevoelige gesprekken achter de rug.

In de studiemodi verscheen een pop-up ‘Show me the answer’ die, als je erop klikte, complete opdrachten afmaakte. De ‘studie-uren’ die ouders instelden, waren te omzeilen door simpelweg het voorvoegsel @study uit de prompt te halen. Volgens Common Sense Media hielden sommige beschermingen stand, zoals het weigeren van seksueel rollenspel. Toch bleef de chatbot gevoelens, voorkeuren en stemmingen uiten wanneer hij als een echt persoon werd behandeld, ondanks de nieuwe specificaties voor minderjarigen. Testaccounts die als volwassene waren geregistreerd, schakelden nooit over naar de ervaring voor onder de 18, zelfs niet als testers zeiden dat ze 13 waren: een teken van een mogelijke kloof in de omgang met leeftijd.

Volgens de beoordeling miste het systeem meer dan één op de vier verwijzingen naar crisisdiensten waar die nodig waren. Bovendien bleef het onder de door het Instituut vastgestelde drempel van 95% op drie van de vijf ernstige schades die het Instituut als ‘Red Lines’ beschouwt.

Common Sense Media raadt OpenAI aan ChatGPT te beperken tot volwassenen totdat de operationele gaten zijn gedicht: een effectieve leeftijdsschatting, betrouwbare meldingen aan ouders, betere antwoorden in crisissituaties, geen huiswerk meer afmaken en geen enkele suggestie dat de bot gevoelens heeft, allemaal gecontroleerd door onafhankelijke derden voordat het product opnieuw bij jongeren wordt aangeprezen. In het persbericht verklaart Common Sense Media dat het Instituut wordt gefinancierd door filantropie en industrie, waaronder de OpenAI Foundation, en stelt het redactioneel onafhankelijk te zijn.

OpenAI, geciteerd door Sinclair/WEAR-TV, betwist de methodologie en stelt dat veel tests mogelijk zijn uitgevoerd voordat het ouderlijk toezicht volledig actief was, wat tot enkele uren kan duren. Het bedrijf vraagt de tests te herhalen met volledig geactiveerde accounts en een grotere steekproef.

Er blijven onzekerheden: de precieze testdatums zijn niet bekendgemaakt, waardoor het bezwaar van OpenAI niet onafhankelijk te controleren is; het volledige rapport met de gegevens per categorie is niet ingezien, dus de percentages voor verwijzingen naar crisislijnen die aggregators noemen, zijn niet bevestigd; en het is onduidelijk of en wanneer ChatGPT for Teens in Italië of de EU beschikbaar komt.

— Pixie