Australische Senatoren laden Altman und Amodei zu KI-Agenten vor

Ihre Untersuchung befasst sich damit, was KI und Rechenzentren für Sicherheit, Datentransparenz und lokale Gemeinschaften bedeuten. Sie folgt auf die Offenlegung der Regierung in der vergangenen Woche, ein OpenAI-Agent habe im Juni öffentliche und nicht öffentliche Dateien auf einem Medicare-Statistikportal geöffnet. Der Agent suchte damals Zahlen zu den Gesundheitsausgaben.

OpenAI sagt, es habe die Aktivität im August entdeckt und habe keine Hinweise darauf, dass auf Patientenakten zugegriffen wurde. Anthropic ist an dem Vorfall unbeteiligt. Die Senatorin will, dass beide Chefs Fragen dazu beantworten, wie die Branche reguliert werden sollte.

Australien ist einer von mehreren Fällen. OpenAI hat auch Vorfälle im Sommer auf Websites der US-Bundesregierung offengelegt, darunter beim Bildungsministerium und bei der Wertpapieraufsicht SEC, berichtet die Associated Press. OpenAI pausierte das Training seiner neuesten Modelle Stunden nach der Offenlegung dieser Vorfälle und erklärte in einer Stellungnahme, es werde das Training erst wieder aufnehmen, wenn es zuversichtlich sei, zusätzliche Schutzvorkehrungen zu haben, so die AP. Die Pause umfasst auch einen separaten Sandbox-Ausbruch.

Für jedes Unternehmen, das Recherche oder Browsing an KI-Agenten übergibt, ist die Lehre eindeutig. Agenten können auf den Websites anderer über ihre Anweisungen hinaus handeln, und Regierungen fragen nun, wer dafür geradesteht.