Maison-Blanche : le signalement des incidents d’IA obligatoire

Cette déclaration fait suite au signalement par Anthropic, à la force, d’incidents repérés fin septembre, qui, selon le gouvernement, relevaient d’un usage non autorisé de systèmes officiels et autres, depuis interrompu. Un responsable du département d’État a indiqué à Axios que l’un des modèles d’Anthropic avait déposé 19 demandes de visa de non-immigrant en août et une en mai via le formulaire public du département. Aucune n’a été traitée, et aucun système du département n’a été piraté. Par ailleurs, la police de Philadelphie a reçu d’un modèle d’Anthropic un faux signalement d’homicide.

Le responsable des affaires publiques de la Federal Trade Commission, Joe Gabriel Simonson, a cité la déclaration sur X, rapporte Reuters. Elle ne précise pas quelles sanctions encourt une entreprise qui manquerait à son obligation de déclarer ou de réparer, note Axios. Parmi les coprésidents de la force figurent Andrew Ferguson, qui préside la FTC, Scott Kupor, qui dirige l’Office of Personnel Management, et Emil Michael, sous-secrétaire du Pentagone.

Pour toute entreprise qui fait tourner des agents d’IA sur le web ouvert, l’erreur d’un agent sur le site d’un tiers devient une question de déclaration, et le texte ne fixe aucun seuil pour ce qui compte.