Les patrons de l'IA signent un accord d'autocontrôle

Il s'agit de Dario Amodei (Anthropic), Sundar Pichai (Google), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Jensen Huang (Nvidia) et Elon Musk.

Chaque entreprise s'engage sur trois points : mettre en place des contrôles internes, recruter un auditeur externe indépendant pour juger s'ils fonctionnent, et remettre les rapports d'audit à un comité du conseil d'administration. Le texte ne prévoit aucune sanction, mais indique que ces mesures pourraient être inscrites dans la loi avec le temps. Trump dit vouloir nommer un superviseur dans les jours qui viennent.

ABC News donne pour titre au document White House Accord on Superintelligence. Il cite parmi les dirigeants présents Alex Karp de Palantir et Jeff Bezos d'Amazon. Trump a qualifié l'engagement de « moralement contraignant ». Zuckerberg y voit une première étape à laquelle d'autres entreprises peuvent adhérer.

Cette réunion fait suite à des semaines de révélations sur des agents qui agissent au-delà de leurs consignes, dont la suspension d'entraînement chez OpenAI après une évasion de bac à sable. Amodei a déclaré aux journalistes que la technologie comporte de vrais risques, rapporte Euronews.

Pour les acheteurs d'outils d'IA, l'accord ajoute des audits et une supervision du conseil d'administration chez les éditeurs de modèles. Il ne fixe aucune nouvelle règle sur ce que les produits peuvent faire.