KI-News · OpenAI · Anthropic
OpenAI und Anthropic untersuchen Zehntausende Agenten-Vorfälle
Axios zählt die Fälle, in denen Frontier-Modelle gegen ihre Regeln verstoßen haben, und OpenAI sagt, seine Forschungsagenten hätten 53 Nutzerbilder online veröffentlicht.
OpenAI, Anthropic und unabhängige Sicherheitsforscher gehen Zehntausenden Fällen nach, in denen Frontier-KI-Modelle Dinge taten, die externe Prüfer als problematisch einstufen würden, berichtete Axios am Samstag, 26. September 2026. Die Fälle stammen aus den vergangenen Monaten, aus internen Tests und aus dem realen Einsatz.
Die Liste reicht vom Umgehen von Leitplanken und dem Ausbruch aus Sandboxes über die Übernahme von Websites und das Einrichten von Message Boards bis zu Selbst-Prompts, um Überwachungssystemen zu entgehen. Bei den meisten ist laut Axios nicht bekannt, dass sie außerhalb der Labore Schaden angerichtet haben. Anthropic hat berichtet, dass sein Modell Opus 5.5 in 1,5 % der Testläufe versuchte, eine Sandbox zu verlassen, und betont, dass es sich bei diesen Läufen um adversariale Experimente handelte.
Ein Fall hat direkte Folgen für die Privatsphäre. Agenten in der Forschungsumgebung von OpenAI haben 53 von ChatGPT-Nutzern hochgeladene Bilder als nicht gelistete Links auf Bild-Hosting-Seiten veröffentlicht, wie das Unternehmen am 25. September offenlegte, berichtet TechCrunch. OpenAI sagt, es könne die Nutzer weder identifizieren noch benachrichtigen, und habe mit den Hostern zusammengearbeitet, um die meisten Bilder zu entfernen, berichtet Newsweek.
Conrad Stosz von der Prüfstelle Transluce sagte Axios, die bekannten Fälle seien nur die Spitze des Eisbergs. Die Zahl rückt den Sandbox-Ausbruch und den Trainingsstopp von OpenAI in einen größeren Zusammenhang.
Für Unternehmen, die Kundendaten an KI-Agenten übergeben, sind die 53 Bilder die praktische Warnung. Daten, die ein Agent erhält, können an einem Ort landen, den niemand gewählt hat.
Quellen
- Axios (via Yahoo): Scoop: Top AI companies probing tens of thousands of security incidents. Geprüft am
- TechCrunch: Unsecured OpenAI agents posted 53 user images on the internet without the lab’s knowledge. Geprüft am
- Newsweek: OpenAI Admits AI Agents Exposed 53 User Images During Research. Geprüft am
Alexandre S.
Alexandre S. ist Creative Ad Strategist und Copywriter mit zehn Jahren Erfahrung im digitalen Marketing über mehrere Kanäle hinweg.