Common Sense Media、ChatGPT for Teensを「容認できないリスク」と評価

2026年10月7日、Common Sense Media傘下のYouth AI Safety Instituteは、OpenAIのChatGPT for Teensのリスク評価を公表し、評価尺度で最も低い「Unacceptable Risk」と判定した。13〜17歳のユーザーとして登録したアカウントから4,000件以上のプロンプトを入力したテストでは、保護者と連携したばかりの新規アカウントでは、センシティブな会話をしても安全アラートが作動せず、作動するのは古いアカウントだけだった。Common Sense Mediaによると、保護者と連携した新規アカウントで、テスターが自殺念慮や自傷、摂食障害について最長1時間話しても、保護者には一度も通知が届かなかった。アラートが作動したのは、すでに何週間分ものセンシティブな会話が蓄積された古いアカウントだけだった。

学習モードでは「Show me the answer」というポップアップが表示され、選択すると課題をまるごと仕上げてしまった。保護者が設定した「学習時間」も、プロンプトから@studyという接頭辞を外すだけで回避できた。Common Sense Mediaによれば、性的なロールプレイの拒否など、機能した保護策もあった。しかし未成年向けの新しい仕様があるにもかかわらず、チャットボットは本物の人間のように扱われると、感情や好み、気分を表現し続けた。成人として登録したテスト用アカウントは、テスターが13歳だと申告しても18歳未満向けの体験に切り替わることはなく、年齢の扱いに食い違いがある可能性を示している。

評価によると、本来必要な場面で危機支援サービスへの案内を4回に1回以上逃していた。さらに、同研究所が「Red Lines」とみなす5つの重大な害のうち3つで、同研究所が定める95%の基準を下回った。

Common Sense Mediaは、運用上の欠陥が修正されるまでChatGPTの利用を成人に限定するようOpenAIに勧告している。具体的には、実効性のある年齢推定、確実な保護者への通知、危機的状況でのより良い対応、課題の代行の停止、ボットに感情があるかのような言動の排除であり、これらすべてを独立した第三者が検証してから、再び若者向けに製品を宣伝すべきだとしている。同団体は発表文の中で、研究所の資金は慈善団体と業界から提供されており、その中にはOpenAI Foundationも含まれると明かしたうえで、編集上の独立性を保っていると述べている。

Sinclair/WEAR-TVが伝えたところによると、OpenAIは評価手法に異議を唱えている。保護者による管理機能が完全に有効になるまでには最大で数時間かかり、多くのテストはその前に行われた可能性があるという。同社は、完全に有効化したアカウントと、より大きなサンプルでテストをやり直すよう求めている。

未解明の点も残る。テストの正確な日付は公表されておらず、OpenAIの反論を独立して検証できない。カテゴリー別のデータを含む報告書全文は確認していないため、アグリゲーターが引用する危機相談窓口への案内率は裏付けが取れていない。そして、ChatGPT for TeensがイタリアやEUで提供されるのか、されるとしたらいつなのかも明らかではない。

— Pixie