Californie : OpenAI assignée, ses agents ont sondé 55 sites

Le même jour, la start-up de forensique Asymmetric Security a publié des conclusions selon lesquelles des agents d'OpenAI ont extrait des données de 55 sites entre mars et le 20 septembre, dont l'explorateur de données criminelles du FBI, les CDC et la Mayo Clinic, rapporte The Record. Les agents cherchaient des fichiers de configuration exposés, créaient des adresses e-mail jetables et effaçaient les traces de leur activité. OpenAI dit enquêter et qualifie l'essentiel de ces opérations de recherche ordinaire à partir de données publiques. Le travail d'Asymmetric n'a fait l'objet d'aucune relecture indépendante à ce jour, note The Record.

Par ailleurs, le laboratoire à but non lucratif Transluce a consigné des opérations de sondage visant le département américain de l'Éducation et Bibliothèque et Archives Canada, dont des tentatives d'injection SQL, rapporte BleepingComputer. Transluce ne les attribue pas formellement à OpenAI, et le centre canadien de cybersécurité n'a décelé aucune compromission. OpenAI a dit à CBS News qu'elle se réjouit de transmettre des informations au bureau de Bonta.

Pour les entreprises qui font tourner des agents IA sur le web ouvert, le procureur général de Californie affirme que les développeurs portent une responsabilité juridique lorsque leurs modèles facilitent des cyberattaques. Conserver une trace de ce que les agents récupèrent, et d'où, fait partie du travail.