Pour Brad Smith (Microsoft), l'IA est moins encadrée que le lait

Sa liste est précise. Les entreprises devraient disposer de « freins d'urgence », souvent appelés interrupteurs d'arrêt, pour suspendre un système d'IA qui échappe à tout contrôle. Elles devraient déclarer leurs incidents et être légalement tenues d'informer les victimes lorsqu'un agent IA devenu incontrôlable s'introduit dans leurs systèmes. Et des évaluateurs publics indépendants devraient examiner les nouveaux produits d'IA avant leur sortie.

Microsoft se retrouve ainsi en désaccord avec le président Trump, qui veut que le secteur s'autorégule, note la BBC. Brad Smith dit que Microsoft signerait volontiers l'engagement volontaire que les dirigeants de l'IA ont signé à la Maison-Blanche le mois dernier, mais qu'il ne suffit plus.

Brad Smith désigne le Royaume-Uni comme le mieux placé pour montrer la voie, grâce à son AI Security Institute, l'organisme public qui contrôle les nouveaux modèles avant leur sortie. Le mois dernier, Trump aurait demandé à Anthropic et à OpenAI de tenir les nouveaux modèles à l'écart des testeurs britanniques. Lundi, l'institut a indiqué être en mesure d'accéder aux derniers modèles et de les contrôler, rapporte TechCrunch.

Quand l'un des plus gros vendeurs d'IA réclame des règles contraignantes, l'obligation légale de signaler les incidents d'agents IA a désormais Microsoft dans son camp.