KI-Chefs im Weißen Haus: Pakt zur Selbstkontrolle ihrer Labore

Es sind Dario Amodei von Anthropic, Sundar Pichai von Google, Mark Zuckerberg von Meta, Greg Brockman von OpenAI, Jensen Huang von Nvidia und Elon Musk.

Jedes Unternehmen sagt drei Schritte zu. Es richtet interne Kontrollen ein, beauftragt einen unabhängigen externen Prüfer, der beurteilt, ob sie funktionieren, und gibt die Prüfberichte an einen Ausschuss des Verwaltungsrats weiter. Der Text sieht keine Strafe vor, hält aber fest, dass die Schritte mit der Zeit gesetzlich verankert werden könnten. Trump sagt, er wolle binnen weniger Tage einen Aufseher benennen.

ABC News nennt als Titel des Dokuments „White House Accord on Superintelligence“. Der Sender führt Palantirs Alex Karp und Amazons Jeff Bezos unter den anwesenden Managern auf. Trump sagte, die Zusage sei „morally binding“. Zuckerberg nannte sie einen ersten Schritt, dem sich weitere Unternehmen anschließen können.

Das Treffen folgt auf wochenlange Offenlegungen über Agenten, die über ihre Anweisungen hinaus handeln, darunter OpenAIs Trainingspause nach einem Sandbox-Ausbruch. Amodei sagte Reportern, die Technologie berge reale Risiken, berichtet Euronews.

Für Käufer von KI-Tools bringt das Abkommen Audits und Aufsicht durch den Verwaltungsrat bei den Modellherstellern. Eine neue Regel dazu, was die Produkte dürfen, legt es nicht fest.