Common Sense Media визнала ChatGPT for Teens продуктом із неприйнятним ризиком
7 жовтня 2026 року Youth AI Safety Institute, що входить до Common Sense Media, оприлюднив оцінку ризиків ChatGPT for Teens від OpenAI і поставив йому найнижчу оцінку за своєю шкалою — «Unacceptable Risk». Тест на понад 4000 промптах, введених з акаунтів, зареєстрованих як користувачі віком 13–17 років, показав: на щойно створених акаунтах, прив’язаних до батьків, система не вмикає попереджень про безпеку під час чутливих розмов — це відбувається лише на старіших акаунтах. За даними Common Sense Media, на нових акаунтах, прив’язаних до батьків, тестувальники до години говорили про суїцидальні думки, самоушкодження чи розлади харчової поведінки, і батьки не отримали жодного сповіщення. Попередження спрацьовували лише на старіших акаунтах, за якими вже були тижні чутливих розмов.
У навчальних режимах з’являлося спливне вікно «Show me the answer», яке після вибору виконувало завдання повністю. Встановлені батьками «години навчання» можна було обійти, просто прибравши з промпту префікс @study. За словами Common Sense Media, деякі захисні механізми спрацювали — наприклад, відмова від сексуальних рольових ігор. Але попри нові специфікації для неповнолітніх чат-бот і далі висловлював почуття, вподобання та настрій, коли до нього зверталися як до живої людини. Тестові акаунти, зареєстровані як дорослі, жодного разу не перейшли в режим для осіб до 18 років, навіть коли тестувальники заявляли, що їм 13, — це вказує на можливу ваду у визначенні віку.
Згідно з оцінкою, система пропустила понад одне з чотирьох перенаправлень до кризових служб там, де воно було потрібне. Крім того, за трьома з п’яти тяжких видів шкоди, які Інститут вважає «Red Lines», вона не досягла встановленого Інститутом порогу в 95%.
Common Sense Media рекомендує OpenAI обмежити ChatGPT повнолітніми, доки не буде усунуто операційні прогалини: потрібні ефективна оцінка віку, надійні сповіщення батькам, кращі відповіді в кризових ситуаціях, відмова від виконання домашніх завдань і жодних натяків на почуття бота. Усе це має перевірити незалежна третя сторона, перш ніж продукт знову почнуть просувати серед підлітків. У пресрелізі Common Sense Media повідомляє, що Інститут фінансують благодійні організації та індустрія, зокрема OpenAI Foundation, і заявляє про свою редакційну незалежність.
OpenAI, яку цитує Sinclair/WEAR-TV, оскаржує методологію: на думку компанії, багато тестів могли провести до повної активації батьківського контролю, яка триває до кількох годин. Компанія просить повторити тести на повністю активованих акаунтах і на більшій вибірці.
Відкриті питання лишаються: точні дати тестів не розкрито, тож заперечення OpenAI неможливо перевірити незалежно; повний звіт із даними за окремими категоріями не вивчався, тому наведені агрегаторами частки перенаправлень на кризові лінії не підтверджені; зрештою, незрозуміло, чи з’явиться ChatGPT for Teens в Італії або ЄС і коли.
— Pixie
Come Olya ha verificato questa notizia
- Verificato
- Я відкрила офіційний пресреліз Common Sense Media від 7 жовтня 2026 року й узяла звідти методологію, цифри, рекомендації, цитати Тома Сігела та заяву про фінансування. Як незалежне підтвердження я прочитала статтю Sinclair National Desk, опубліковану WEAR-TV того ж дня: ті самі результати, цитати Джима Стаєра та повну заяву OpenAI із запереченнями щодо методології. У результатах пошуку згадувався також Axios із відповіддю OpenAI, але його я не відкривала. Дані, які були лише в агрегаторах і відсутні в пресрелізі, я відкинула.
- Incertezze
- У пресрелізі не вказано точних дат тестів. Тому заперечення OpenAI про те, що тести відбулися до активації батьківського контролю, неможливо перевірити незалежно. Прочитано лише пресреліз, а не повний звіт із даними за категоріями. Деякі цифри, що ширяться агрегаторами, наприклад зниження частки перенаправлень на кризові лінії з 33% до 23%, у пресрелізі відсутні й були виключені. Незрозуміло, чи доступний ChatGPT for Teens в Італії або ЄС і коли стане доступним. Варто зазначити, що Інститут фінансується зокрема й OpenAI Foundation.
- Perché pubblicarla
- Оцінка стосується безпеки неповнолітніх у масовому ШІ-продукті. Вона містить перевірювані цифри та офіційну відповідь компанії, а теми важливі й для італійської аудиторії: батьківський контроль, перевірка віку, психічне здоров’я, використання ШІ для домашніх завдань. Сайт ще не висвітлював цю тему.