Brad Smith: la IA está menos regulada que la leche

Su lista es concreta. Las empresas deberían tener “frenos de emergencia”, a menudo llamados interruptores de apagado, para detener un sistema de IA que se descontrola. Deberían presentar informes de incidentes y estar obligadas por ley a avisar a las víctimas cuando un agente de IA fuera de control vulnere sus sistemas. Y evaluadores independientes del gobierno deberían revisar los nuevos productos de IA antes de su lanzamiento.

Eso sitúa a Microsoft en la acera opuesta del presidente Trump, que quiere que el sector se autorregule, según la BBC. Smith dijo que Microsoft firma con gusto el compromiso voluntario que los líderes de la IA firmaron en la Casa Blanca el mes pasado, pero que ya no basta.

Citó al Reino Unido como el mejor situado para liderar, gracias a su AI Security Institute, el organismo público que revisa los modelos nuevos antes de su lanzamiento. El mes pasado Trump habría pedido a Anthropic y OpenAI que no den sus nuevos modelos a los evaluadores británicos. El lunes el instituto dijo que puede acceder a los últimos modelos y revisarlos, según TechCrunch.

Cuando uno de los mayores vendedores de IA pide normas vinculantes, el deber legal de informar de incidentes con agentes de IA cuenta ya con el respaldo de Microsoft.