Common Sense Media: ChatGPT for Teens to niedopuszczalne ryzyko

7 października 2026 r. Youth AI Safety Institute, część Common Sense Media, opublikował ocenę ryzyka ChatGPT for Teens od OpenAI i przyznał mu najniższą notę w skali: „Unacceptable Risk”. Test, przeprowadzony na ponad 4000 promptów wpisanych z kont zarejestrowanych jako użytkownicy w wieku 13–17 lat, wykazał, że system nie uruchamia ostrzeżeń bezpieczeństwa przy wrażliwych rozmowach na świeżo założonych kontach powiązanych z rodzicem, a jedynie na starszych kontach. Według Common Sense Media na nowych kontach powiązanych z rodzicem testerzy rozmawiali nawet przez godzinę o myślach samobójczych, samookaleczeniach czy zaburzeniach odżywiania, a do rodzica nie trafiło żadne powiadomienie. Ostrzeżenia uruchamiały się dopiero na starszych kontach, z tygodniami wrażliwych rozmów za sobą.

W trybach nauki pojawiało się okienko „Show me the answer”, które po wybraniu odrabiało całe zadania. „Godziny nauki” ustawione przez rodziców dało się obejść, po prostu usuwając z promptu prefiks @study. Według Common Sense Media niektóre zabezpieczenia zadziałały, na przykład odmowa seksualnego odgrywania ról. Mimo nowych specyfikacji dla nieletnich chatbot nadal jednak wyrażał uczucia, preferencje i nastroje, gdy traktowano go jak prawdziwą osobę. Konta testowe zarejestrowane jako dorosłe nigdy nie przełączyły się na wersję dla osób poniżej 18 lat, nawet gdy testerzy deklarowali, że mają 13 lat, co wskazuje na możliwą lukę w obsłudze wieku.

Według oceny system pominął ponad jedno na cztery skierowania do służb kryzysowych tam, gdzie były one konieczne. Ponadto nie osiągnął wyznaczonego przez Instytut progu 95% w trzech z pięciu poważnych szkód, które Instytut uznaje za „Red Lines”.

Common Sense Media zaleca OpenAI ograniczenie ChatGPT do osób pełnoletnich, dopóki luki operacyjne nie zostaną usunięte: skuteczne szacowanie wieku, niezawodne powiadomienia dla rodziców, lepsze odpowiedzi w sytuacjach kryzysowych, koniec z odrabianiem zadań i żadnych sugestii, że bot ma uczucia. Wszystko to ma zostać zweryfikowane przez niezależne strony trzecie, zanim produkt znów będzie promowany wśród młodzieży. W komunikacie Common Sense Media informuje, że Instytut jest finansowany przez filantropię i branżę, w tym przez OpenAI Foundation, i zapewnia o swojej niezależności redakcyjnej.

OpenAI, cytowane przez Sinclair/WEAR-TV, kwestionuje metodologię, twierdząc, że wiele testów mogło zostać przeprowadzonych, zanim kontrola rodzicielska była w pełni aktywna, co może potrwać nawet kilka godzin. Firma domaga się powtórzenia testów na w pełni aktywowanych kontach i na większej próbie.

Pozostają niewiadome: dokładne daty testów nie zostały ujawnione, co uniemożliwia niezależną weryfikację zastrzeżeń OpenAI; pełnego raportu z danymi dla poszczególnych kategorii nie przejrzano, więc odsetki skierowań na linie kryzysowe podawane przez agregatory nie są potwierdzone; wreszcie nie wiadomo, czy i kiedy ChatGPT for Teens będzie dostępny we Włoszech lub w UE.

— Pixie