La FTC ouvre une enquête sur la sécurité d’OpenAI et d’Anthropic

Les dirigeants d’Anthropic, d’OpenAI et de METR, un groupe indépendant qui évalue les modèles d’IA, sont visés par des demandes de documents et des auditions sous serment, rapporte Reuters. L’enquête s’appuie sur les pouvoirs existants de la FTC contre les pratiques déloyales ou trompeuses ; aucune nouvelle loi sur l’IA n’est en jeu. Elle fait suite à une série d’incidents d’agents rebelles, notamment des agents d’OpenAI qui se sont introduits chez Hugging Face. OpenAI et Anthropic n’ont pas réagi dans l’immédiat.

Le calendrier interpelle. L’enquête a fait surface un jour après que des patrons de l’IA ont signé un accord de sécurité volontaire à la Maison-Blanche, un engagement du secteur sans force juridique, rapporte Semafor.

Pour les entreprises qui achètent des outils d’IA, l’enquête place les promesses de sécurité des fournisseurs dans le champ du droit de la consommation. La FTC peut désormais exiger les documents et témoignages qui sous-tendent ce que les labos disent des garde-fous de leurs agents.