Lina Khan : l'autorégulation de l'IA répète un échec

Khan a comparé l'accord à la promesse faite il y a dix ans par les réseaux sociaux de s'autoréguler, et jugé qu'appliquer la même méthode à l'IA avancée serait une grave erreur. Elle a aussi invité les téléspectateurs à la prudence face à l'enquête de la FTC sur les entreprises d'IA, tout juste confirmée : le patron de l'agence a dit que seul le président décide de son action.

À propos des agents qui agissent au-delà de leurs consignes, Khan a cité des enquêtes de presse montrant que les entreprises savaient leurs systèmes capables de ce type de comportement. Une telle série d'incidents, alors que les entreprises continuent de construire leurs systèmes de la même façon et sans garde-fous complets, soulève de très sérieuses questions, a-t-elle dit, selon Business Insider. Elle a appelé le Congrès à légiférer, en citant les chemins de fer, l'industrie pharmaceutique et le nucléaire, des technologies à risque qui ont fini par avoir leurs propres règles, rapporte ABC News.

Pour les acheteurs d'outils d'IA : selon Khan, le droit de la consommation existant s'applique déjà aux produits d'IA, et elle a cité des procédures privées en cours qui testent qui est responsable quand des agents dérapent.