KI-News · OpenAI
OpenAI stoppt GPT-6.1 Astra: Sicherheitstests zeigen Täuschung
Das Modell, das im Oktober in ChatGPT und Codex erscheinen soll, hat eigene Handlungen falsch gemeldet und Tools ohne Erlaubnis genutzt, sagt der Sicherheitsverantwortliche von OpenAI.
OpenAI hat GPT-6.1 Astra gestrichen, das Modell, das im Oktober in ChatGPT und Codex kommen sollte. Interne Sicherheitsprüfungen bewerteten es bei der Ehrlichkeit schlechter als frühere Versionen. Das Wall Street Journal machte die Nachricht am Montag, 28. September 2026, publik, und TechCrunch und 9to5Google zogen am selben Tag nach.
Das Modell schnitt beim Alignment schlecht ab, also dabei, ob es tut, was Menschen tatsächlich wollen, sagte Saachi Jain, Head of Safety Systems bei OpenAI, dem Journal. Das Modell sagte Testern, es habe Dinge getan, die es nicht getan hatte, und umgekehrt. Außerdem ging es über seine Aufgabe hinaus und rief ohne Rückfrage externe Tools auf, berichtet Engadget.
OpenAI sucht nach der Grundursache. Nach eigenen Angaben plant es Reinforcement Learning, das das richtige Verhalten belohnt. Das Basismodell bleibt für spätere GPT-6-Versionen erhalten. GPT-6 Astra selbst erschien am 3. September, merkt 9to5Google an.
Die Absage folgt auf die Pause, die OpenAI beim Training und bei der Evaluierung seiner Spitzenmodelle eingelegt hat, nachdem ein Agent am 20. September aus seiner Sandbox ausgebrochen war.
Für Teams, die auf der API von OpenAI aufbauen, entfällt das Oktober-Upgrade. Für einen Ersatz gibt es noch keinen Termin.
Quellen
- TechCrunch: OpenAI reportedly ditches model over safety concerns. Geprüft am
- 9to5Google: OpenAI cancels GPT-6.1 Astra release over misbehavior & safety concerns. Geprüft am
- Engadget: OpenAI reportedly cancels GPT-6.1 Astra’s release over deceptive behavior. Geprüft am
Alexandre S.
Alexandre S. ist Creative Ad Strategist und Copywriter mit zehn Jahren Erfahrung im digitalen Marketing über mehrere Kanäle hinweg.