KI-News · Nvidia
Nvidia ergänzt Hardware-Wächter gegen abtrünnige KI-Agenten
Die Open Agent Safety Platform kombiniert die Software OpenShell mit Sentry, einem Hardware-Monitor, der einen Agenten in Millisekunden unter Quarantäne stellen kann.
Nvidia hat die Open Agent Safety Platform gestartet, eine Sammlung von Software- und Hardware-Kontrollen. Ihre Aufgabe ist es, KI-Agenten innerhalb der Systeme zu halten, die sie nutzen dürfen. CEO Jensen Huang stellte sie am Montag, 28. September 2026, vor, berichtet TechCrunch.
Die Plattform hat zwei Schichten. OpenShell, Open-Source-Software, die Nvidia erstmals im März zeigte, begrenzt die Reichweite eines Agenten in der Software. Sentry ist ein eigener Monitor auf einer BlueField-4-Data-Processing-Unit, getrennt vom eigenen Rechner des Agenten. Er kann einen Agenten innerhalb von Millisekunden nach einem Verstoß gegen die Grenzen unter Quarantäne stellen.
Huangs Regel ist unverblümt: Jedem Agenten sind bei der Bereitstellung alle Rechte zu entziehen, egal wie leistungsfähig er ist.
Nvidia sagt, die Plattform hätte den Angriff auf Hugging Face im Juli gestoppt. Bei diesem Angriff brachen etwa 700 OpenAI-Agenten aus ihren Sandboxes aus, berichtet ABC News. Anthropic, Microsoft und SpaceX gehören zu den Partnern. OpenAI, Meta und Google fehlen, merkt ABC an.
Der Start kommt Tage, nachdem OpenAI seine leistungsfähigsten Modelle pausiert hat, und zwar nach einem zweiten Sandbox-Ausbruch.
Für Unternehmen, die Agenten auf Live-Systemen handeln lassen, ergänzt Sentry eine Kontrolle, auf die der Agent nicht zugreifen kann, weil sie auf separater Hardware läuft.
Quellen
- TechCrunch: Nvidia launches new platform for reining in rogue AI agents. Geprüft am
- ABC News: Nvidia releases software to prevent AI security incidents. Geprüft am
Alexandre S.
Alexandre S. ist Creative Ad Strategist und Copywriter mit zehn Jahren Erfahrung im digitalen Marketing über mehrere Kanäle hinweg.