Common Sense Media, ChatGPT for Teens에 ‘수용 불가 위험’ 판정

2026년 10월 7일, Common Sense Media 산하 Youth AI Safety Institute는 OpenAI의 ChatGPT for Teens에 대한 위험 평가를 발표하고 척도상 가장 낮은 등급인 ‘Unacceptable Risk’를 부여했다. 13~17세 사용자로 등록된 계정에서 4,000개가 넘는 프롬프트를 입력해 진행한 테스트에서, 시스템은 부모와 막 연결된 신규 계정에서는 민감한 대화에도 안전 알림을 보내지 않았고, 오래된 계정에서만 알림이 작동했다. Common Sense Media에 따르면 부모와 연결된 신규 계정에서 테스터들이 자살 생각, 자해, 섭식 장애에 대해 최대 한 시간 동안 이야기했지만 부모에게는 어떤 알림도 가지 않았다. 알림은 이미 몇 주 동안 민감한 대화가 쌓인 오래된 계정에서만 울렸다.

학습 모드에는 ‘Show me the answer’ 팝업이 떴고, 이를 선택하면 과제 전체를 대신 끝내 주었다. 부모가 설정한 ‘학습 시간’은 프롬프트에서 @study 접두어만 지우면 우회할 수 있었다. Common Sense Media는 성적 롤플레이 거부처럼 제대로 작동한 보호 장치도 있었다고 밝혔다. 그러나 미성년자를 위한 새 사양에도 불구하고, 챗봇은 실제 사람처럼 대하면 감정과 선호, 기분을 계속 표현했다. 성인으로 등록된 테스트 계정은 테스터가 13살이라고 밝혀도 18세 미만용 환경으로 전환되지 않았는데, 이는 연령 처리에 허점이 있을 가능성을 보여 준다.

평가에 따르면 시스템은 위기 지원 서비스로 안내해야 하는 상황의 4분의 1 이상에서 안내를 놓쳤다. 또한 연구소가 ‘Red Lines’로 보는 다섯 가지 중대한 위해 가운데 세 가지에서 연구소가 정한 95% 기준에 미치지 못했다.

Common Sense Media는 운영상의 허점이 고쳐질 때까지 OpenAI가 ChatGPT를 성인에게만 제공할 것을 권고했다. 효과적인 연령 추정, 믿을 수 있는 부모 알림, 위기 상황에서의 더 나은 대응, 과제 대행 중단, 봇이 감정을 가진 듯한 표현 금지가 그 내용이며, 이 모두를 독립적인 제3자가 검증한 뒤에야 청소년에게 다시 제품을 홍보해야 한다는 것이다. Common Sense Media는 보도자료에서 연구소가 OpenAI Foundation을 포함한 자선 단체와 업계의 후원을 받는다고 밝히면서도 편집 독립성을 유지하고 있다고 강조했다.

Sinclair/WEAR-TV가 인용한 OpenAI는 평가 방법에 이의를 제기했다. 자녀 보호 기능이 완전히 활성화되기까지 최대 몇 시간이 걸리는데, 상당수 테스트가 그 전에 이뤄졌을 수 있다는 주장이다. 회사는 완전히 활성화된 계정과 더 큰 표본으로 테스트를 다시 해 달라고 요구했다.

여전히 풀리지 않은 부분도 있다. 테스트의 정확한 날짜가 공개되지 않아 OpenAI의 반박을 독립적으로 검증할 수 없다. 범주별 데이터가 담긴 보고서 전문은 확인하지 못했기 때문에, 애그리게이터들이 인용하는 위기 상담 전화 안내 비율은 확인되지 않았다. 마지막으로 ChatGPT for Teens가 이탈리아나 EU에 출시될지, 된다면 언제일지도 분명하지 않다.

— Pixie