ChatGPT for Teens jugé à risque inacceptable par Common Sense Media

Le 7 octobre 2026, le Youth AI Safety Institute, rattaché à Common Sense Media, a publié une évaluation des risques de ChatGPT for Teens d'OpenAI et lui a attribué la note la plus basse de son échelle : « Unacceptable Risk ». Le test, mené sur plus de 4 000 prompts saisis depuis des comptes enregistrés comme utilisateurs de 13 à 17 ans, a montré que le système ne déclenche pas d'alertes de sécurité lors de conversations sensibles sur les comptes tout juste créés et liés à un parent, mais seulement sur des comptes plus anciens. Selon Common Sense Media, sur des comptes récents liés à un parent, les testeurs ont parlé jusqu'à une heure d'idées suicidaires, d'automutilation ou de troubles alimentaires sans qu'aucune alerte ne parvienne au parent. Les alertes ne se sont déclenchées que sur des comptes plus anciens, qui avaient déjà des semaines de conversations sensibles derrière eux.

Les modes d'étude affichaient une fenêtre « Show me the answer » qui, une fois sélectionnée, faisait des devoirs entiers. Les « heures d'étude » fixées par les parents pouvaient être contournées en retirant simplement le préfixe @study du prompt. Selon Common Sense Media, certaines protections ont tenu, comme le refus du jeu de rôle sexuel. Mais le chatbot continuait d'exprimer des sentiments, des préférences et des états d'âme lorsqu'on le traitait comme une vraie personne, malgré les nouvelles spécifications pour les mineurs. Les comptes de test enregistrés comme adultes ne sont jamais passés à l'expérience pour les moins de 18 ans, même quand les testeurs disaient avoir 13 ans, ce qui suggère une possible faille dans la gestion de l'âge.

Selon l'évaluation, le système a manqué plus d'une orientation sur quatre vers les services de crise lorsqu'elle s'imposait. Il est aussi resté sous le seuil de 95 % fixé par l'Institut pour trois des cinq préjudices graves que l'Institut considère comme des « Red Lines ».

Common Sense Media recommande à OpenAI de réserver ChatGPT aux majeurs tant que les lacunes opérationnelles ne sont pas corrigées : une estimation de l'âge efficace, des alertes fiables aux parents, de meilleures réponses en situation de crise, l'arrêt de la réalisation des devoirs et aucune allusion à des sentiments du bot, le tout vérifié par des tiers indépendants avant de promouvoir à nouveau le produit auprès des jeunes. Dans son communiqué, Common Sense Media indique que l'Institut est financé par la philanthropie et l'industrie, dont la OpenAI Foundation, et affirme disposer d'une indépendance éditoriale.

OpenAI, citée par Sinclair/WEAR-TV, conteste la méthodologie : selon l'entreprise, de nombreux tests auraient pu être effectués avant l'activation complète du contrôle parental, qui peut prendre jusqu'à quelques heures. Elle demande que les tests soient refaits sur des comptes entièrement activés et sur un échantillon plus large.

Des inconnues demeurent : les dates exactes des tests n'ont pas été communiquées, ce qui empêche de vérifier de manière indépendante l'objection d'OpenAI ; le rapport complet avec les données par catégorie n'a pas été consulté, donc les pourcentages d'orientation vers les lignes de crise cités par des agrégateurs ne sont pas confirmés ; enfin, on ne sait pas si ni quand ChatGPT for Teens sera disponible en Italie ou dans l'UE.

— Pixie