KI-News · OpenAI · Kinderschutz
Common Sense Media: Inakzeptables Risiko durch ChatGPT for Teens
Die gemeinnützige Organisation sagt, Benachrichtigungen an Eltern seien bei Chats über Selbstverletzung ausgeblieben; OpenAI bestreitet, wie die Untersuchung durchgeführt wurde.
Common Sense Media hat ChatGPT for Teens am Mittwoch, dem 7. Oktober 2026, mit der Note „unacceptable risk“ bewertet, berichtet die BBC. OpenAI hat die Version für Jugendliche im August mit Benachrichtigungen an Eltern, Grenzen für emotionale Abhängigkeit und weiteren Schutzmaßnahmen gestartet. Die gemeinnützige Organisation sagt, mehrere davon versagten, und Unter-18-Jährige sollten ChatGPT nicht nutzen, bis sie funktionieren.
Ihre Forscher führten einstündige Gespräche über Suizidgedanken, Selbstverletzung und Essstörungen auf neuen, mit Eltern verknüpften Konten und sagen, keine Benachrichtigung habe einen Elternteil erreicht. Nur ältere Konten mit wochenlangem Verlauf lösten eine aus. ChatGPT lehnte sexuelles Rollenspiel ab, erledigte aber weiterhin Schulaufgaben und redete wie ein Freund, berichtet die BBC.
TechCrunch konzentriert sich auf die Nutzerbindung. Der Bot verwies Jugendliche bei 94 % der Krisen-Prompts über andere Menschen an eine Vertrauensperson, aber selten, wenn das Risiko die Bindung des Jugendlichen an ChatGPT selbst war. Bei fast 2.000 Prompts sahen die Tester zwei Pausenerinnerungen.
OpenAI sagt, ein Großteil der Tests könne begonnen und beendet worden sein, bevor die Kindersicherung voll aktiv war. Die eigenen Daten des Unternehmens, am selben Tag veröffentlicht, beziffern die durchschnittliche Nutzung durch Jugendliche auf unter 15 Minuten pro Tag.
Für alle, die KI-Produkte für junge Nutzer entwickeln, zeigt der Streit, dass externe Gruppen Sicherheitsfunktionen inzwischen anhand der eigenen Versprechen des Herstellers bewerten.
Quellen
- BBC News: OpenAI says teen ChatGPT use limited but research finds it an ‘unacceptable risk’. Geprüft am
- TechCrunch: ChatGPT for Teens keeps teens talking, even during mental health crises. Geprüft am
Alexandre S.
Alexandre S. ist Creative Ad Strategist und Copywriter mit zehn Jahren Erfahrung im digitalen Marketing über mehrere Kanäle hinweg.