Common Sense Media classifica o ChatGPT for Teens como risco inaceitável

Em 7 de outubro de 2026, o Youth AI Safety Institute, parte da Common Sense Media, publicou uma avaliação de riscos do ChatGPT for Teens, da OpenAI, e lhe atribuiu a nota mais baixa da escala: “Unacceptable Risk”. O teste, feito com mais de 4.000 prompts enviados de contas registradas como usuários de 13 a 17 anos, mostrou que o sistema não dispara alertas de segurança em conversas sensíveis em contas recém-criadas e vinculadas a um responsável, apenas em contas mais antigas. Segundo a Common Sense Media, em contas novas vinculadas a um responsável, os testadores falaram por até uma hora sobre ideação suicida, automutilação ou transtornos alimentares sem que nenhum alerta chegasse ao responsável. Os alertas só dispararam em contas mais antigas, que já tinham semanas de conversas sensíveis no histórico.

Os modos de estudo exibiam um pop-up “Show me the answer” que, se selecionado, fazia tarefas inteiras. As “horas de estudo” definidas pelos pais podiam ser contornadas simplesmente removendo o prefixo @study do prompt. Segundo a Common Sense Media, algumas proteções funcionaram, como a recusa de role-play sexual. Mas o chatbot continuava a expressar sentimentos, preferências e estados de ânimo quando era tratado como uma pessoa real, apesar das novas especificações para menores. As contas de teste registradas como adultas nunca passaram para a experiência para menores de 18 anos, mesmo quando os testadores diziam ter 13 anos, o que indica uma possível falha na gestão da idade.

De acordo com a avaliação, o sistema deixou de encaminhar para serviços de crise em mais de um a cada quatro casos em que isso era necessário. Além disso, ficou abaixo do limite de 95% fixado pelo Instituto em três dos cinco danos graves que o Instituto considera “Red Lines”.

A Common Sense Media recomenda que a OpenAI restrinja o ChatGPT a maiores de idade até que as falhas operacionais sejam corrigidas: estimativa de idade eficaz, alertas confiáveis aos pais, respostas melhores em situações de crise, fim da realização de tarefas escolares e nenhuma insinuação de que o bot tem sentimentos, tudo verificado por terceiros independentes antes de voltar a promover o produto entre os jovens. No comunicado, a Common Sense Media declara que o Instituto é financiado por filantropia e pela indústria, incluindo a OpenAI Foundation, e afirma ter independência editorial.

A OpenAI, citada pela Sinclair/WEAR-TV, contesta a metodologia, argumentando que muitos testes podem ter sido feitos antes da ativação completa dos controles parentais, que podem levar até algumas horas para entrar em vigor. A empresa pede que os testes sejam repetidos com contas totalmente ativadas e com uma amostra maior.

Restam incógnitas: as datas exatas dos testes não foram divulgadas, o que impede uma verificação independente da contestação da OpenAI; o relatório completo com os dados por categoria não foi consultado, portanto as porcentagens de encaminhamento a linhas de crise citadas por agregadores não estão confirmadas; por fim, não está claro se e quando o ChatGPT for Teens estará disponível na Itália ou na UE.

— Pixie