Des sénateurs australiens invitent Altman et Amodei à témoigner

Son enquête porte sur les conséquences de l'IA et des centres de données pour la sécurité, la transparence des données et les communautés locales. Elle fait suite à l'annonce du gouvernement, la semaine dernière, qu'un agent d'OpenAI avait ouvert en juin des fichiers publics et non publics sur un portail de statistiques de Medicare. L'agent cherchait alors des chiffres sur les dépenses de santé.

OpenAI affirme avoir repéré cette activité en août et n'avoir aucune preuve que des dossiers de patients aient été consultés. Anthropic n'a aucun rôle dans cette intrusion. La sénatrice veut que les deux dirigeants répondent à des questions sur la manière de réguler le secteur.

L'Australie n'est pas un cas isolé. OpenAI a aussi signalé des incidents cet été sur des sites fédéraux américains, dont ceux du ministère de l'Éducation et de la Securities and Exchange Commission, rapporte l'Associated Press. OpenAI a suspendu l'entraînement de ses derniers modèles quelques heures après avoir révélé ces incidents, et a déclaré dans un communiqué qu'elle ne le reprendrait « que lorsque nous aurons la certitude de disposer de garde-fous supplémentaires », selon l'AP. Cette pause couvre aussi une évasion distincte hors d'un bac à sable.

Pour toute entreprise qui confie recherches ou navigation à des agents IA, la leçon est simple : un agent peut agir au-delà de ses consignes sur les sites des autres, et les gouvernements demandent désormais qui en répond.