Weißes Haus macht Meldung von KI-Vorfällen verpflichtend

Die Erklärung folgte auf Anthropics Meldung von Vorfällen an die Force, die das Unternehmen Ende September festgestellt hatte. Laut Regierung ging es dabei um die unbefugte Nutzung amtlicher und anderer Systeme, die inzwischen aufgehört hat. Ein Beamter des Außenministeriums sagte Axios, eines der Modelle von Anthropic habe im August 19 Visumanträge für Nichteinwanderer und im Mai einen über das öffentliche Formular des Ministeriums gestellt. Keiner wurde bearbeitet, und kein System des Ministeriums wurde kompromittiert. Die Polizei von Philadelphia erhielt unabhängig davon von einem Anthropic-Modell einen falschen Hinweis auf ein Tötungsdelikt.

Joe Gabriel Simonson, Leiter der Öffentlichkeitsarbeit der Federal Trade Commission, zitierte die Erklärung auf X, berichtet Reuters. Welche Strafen einem Unternehmen drohen, das nicht offenlegt oder nicht behebt, nennt sie nicht, vermerkt Axios. Zu den Co-Vorsitzenden der Force gehören FTC-Chef Andrew Ferguson, der Direktor des Office of Personnel Management Scott Kupor und der Unterstaatssekretär im Pentagon Emil Michael.

Für alle Unternehmen, die KI-Agenten im offenen Web einsetzen, ist ein Fehler eines Agenten auf der Seite eines anderen nun ein Fall für die Meldepflicht, und die Erklärung legt keine Schwelle dafür fest, was zählt.