Common Sense Media признала ChatGPT for Teens продуктом с неприемлемым риском

7 октября 2026 года Youth AI Safety Institute, входящий в Common Sense Media, опубликовал оценку рисков ChatGPT for Teens от OpenAI и поставил ему самую низкую оценку по своей шкале — «Unacceptable Risk». Тест на более чем 4000 промптах, введённых с аккаунтов, зарегистрированных как пользователи 13–17 лет, показал: на только что созданных аккаунтах, привязанных к родителю, система не включает предупреждения о безопасности при деликатных разговорах — это происходит только на более старых аккаунтах. По данным Common Sense Media, на новых аккаунтах с привязкой к родителю тестировщики до часа говорили о суицидальных мыслях, самоповреждении или расстройствах пищевого поведения, и родитель не получил ни одного уведомления. Предупреждения срабатывали только на старых аккаунтах, за которыми уже были недели деликатных разговоров.

В учебных режимах появлялось всплывающее окно «Show me the answer», которое при выборе выполняло задание целиком. Установленные родителями «учебные часы» можно было обойти, просто убрав из промпта префикс @study. По словам Common Sense Media, некоторые защитные механизмы сработали — например, отказ от сексуальных ролевых игр. Но несмотря на новые спецификации для несовершеннолетних, чат-бот продолжал выражать чувства, предпочтения и настроение, когда к нему обращались как к живому человеку. Тестовые аккаунты, зарегистрированные как взрослые, ни разу не переключились на режим для лиц младше 18 лет, даже когда тестировщики заявляли, что им 13, — это указывает на возможный изъян в определении возраста.

Согласно оценке, система пропустила больше одного из четырёх перенаправлений в кризисные службы там, где они были необходимы. Кроме того, по трём из пяти тяжёлых видов вреда, которые Институт считает «Red Lines», она не дотянула до установленного Институтом порога в 95%.

Common Sense Media рекомендует OpenAI ограничить ChatGPT совершеннолетними, пока не будут устранены операционные пробелы: нужна эффективная оценка возраста, надёжные уведомления родителям, более качественные ответы в кризисных ситуациях, отказ от выполнения домашних заданий и никаких намёков на чувства у бота. Всё это должно быть проверено независимыми третьими сторонами, прежде чем продукт снова начнут продвигать среди подростков. В пресс-релизе Common Sense Media сообщает, что Институт финансируется благотворительными организациями и индустрией, в том числе OpenAI Foundation, и заявляет о своей редакционной независимости.

OpenAI, которую цитирует Sinclair/WEAR-TV, оспаривает методологию: по словам компании, многие тесты могли проводиться до полной активации родительского контроля, на которую уходит до нескольких часов. Компания просит повторить тесты на полностью активированных аккаунтах и на большей выборке.

Открытые вопросы остаются: точные даты тестов не раскрыты, поэтому возражение OpenAI нельзя проверить независимо; полный отчёт с данными по отдельным категориям не изучался, так что приводимые агрегаторами доли перенаправлений на кризисные линии не подтверждены; наконец, неясно, появится ли ChatGPT for Teens в Италии или ЕС и когда.

— Pixie