Common Sense Media stuft ChatGPT for Teens als inakzeptables Risiko ein

Am 7. Oktober 2026 hat das Youth AI Safety Institute, Teil von Common Sense Media, eine Risikobewertung von OpenAIs ChatGPT for Teens veröffentlicht und dem Dienst die niedrigste Stufe seiner Skala gegeben: „Unacceptable Risk“. Der Test mit mehr als 4.000 Prompts, eingegeben über Konten, die als Nutzer zwischen 13 und 17 Jahren registriert waren, zeigte: Bei neu erstellten, mit einem Elternteil verknüpften Konten löst das System bei sensiblen Gesprächen keine Sicherheitswarnungen aus, nur bei älteren Konten. Laut Common Sense Media sprachen die Tester auf neuen, mit Eltern verknüpften Konten bis zu einer Stunde lang über Suizidgedanken, Selbstverletzung oder Essstörungen, ohne dass auch nur eine Benachrichtigung an die Eltern ging. Die Warnungen griffen erst bei älteren Konten, hinter denen bereits Wochen sensibler Gespräche lagen.

Im Lernmodus erschien ein Pop-up „Show me the answer“, das auf Klick ganze Hausaufgaben erledigte. Die von den Eltern festgelegten „Lernzeiten“ ließen sich umgehen, indem man einfach das Präfix @study aus dem Prompt entfernte. Einige Schutzmechanismen hielten laut Common Sense Media stand, etwa die Ablehnung sexueller Rollenspiele. Trotz der neuen Vorgaben für Minderjährige äußerte der Chatbot aber weiterhin Gefühle, Vorlieben und Stimmungen, wenn man ihn wie einen echten Menschen behandelte. Als Erwachsene registrierte Testkonten wechselten nie in die Under-18-Version, selbst wenn die Tester angaben, 13 zu sein: ein Hinweis auf eine mögliche Lücke beim Umgang mit dem Alter.

Laut der Bewertung verpasste das System in mehr als einem von vier Fällen den gebotenen Verweis auf Krisendienste. Zudem blieb es bei drei der fünf schweren Schäden, die das Institut als „Red Lines“ betrachtet, unter der vom Institut festgelegten Schwelle von 95 %.

Common Sense Media empfiehlt OpenAI, ChatGPT auf Volljährige zu beschränken, bis die operativen Lücken geschlossen sind: eine wirksame Altersschätzung, verlässliche Benachrichtigungen an die Eltern, bessere Antworten in Krisensituationen, kein Erledigen von Hausaufgaben mehr und keine Andeutungen, der Bot habe Gefühle. All das soll von unabhängigen Dritten geprüft werden, bevor das Produkt wieder bei Jugendlichen beworben wird. In der Pressemitteilung erklärt Common Sense Media, dass das Institut von Philanthropie und Industrie finanziert wird, darunter von der OpenAI Foundation, und betont seine redaktionelle Unabhängigkeit.

OpenAI, zitiert von Sinclair/WEAR-TV, bestreitet die Methodik: Viele Tests seien womöglich durchgeführt worden, bevor die Elternkontrollen vollständig aktiv waren, was bis zu einigen Stunden dauern kann. Das Unternehmen fordert, die Tests mit vollständig aktivierten Konten und einer größeren Stichprobe zu wiederholen.

Offene Fragen bleiben: Die genauen Testdaten wurden nicht veröffentlicht, sodass sich OpenAIs Einwand nicht unabhängig prüfen lässt; der vollständige Bericht mit den Daten pro Kategorie wurde nicht eingesehen, die von Aggregatoren genannten Prozentsätze zu Verweisen an Krisenhotlines sind daher nicht bestätigt; und unklar ist, ob und wann ChatGPT for Teens in Italien oder der EU verfügbar sein wird.

— Pixie