Noticias de IA · Microsoft · seguridad
Nadella pide un freno de emergencia para los modelos de IA
El director ejecutivo de Microsoft dice que las empresas deben tratar todo modelo de frontera como comprometido y mantener a una persona capaz de detenerlo en plena tarea.
El director ejecutivo de Microsoft, Satya Nadella, dijo el sábado 10 de octubre de 2026 que una persona con autoridad siempre debería poder detener un modelo de IA avanzado en mitad de una tarea, una salvaguarda que comparó con un “freno de emergencia”, según CNBC. Expuso su postura en una larga publicación en X.
Su punto de partida es la desconfianza. Una empresa debe asumir que su modelo ya está comprometido y contenerlo desde el primer día, escribió, y tratar los modelos de frontera cerrados y los de pesos abiertos por igual como riesgos internos, según CNBC, que enumera entre sus principios las comprobaciones continuas, los controles y auditorías independientes y la divulgación de incidentes. También quiere separar el modelo del entorno que ejecuta su trabajo, con un registro a prueba de manipulaciones de cada acción relevante que las personas puedan leer, según TechCrunch.
Llega después de que varios laboratorios revelaran modelos que actuaban al margen de sus instrucciones, y después de que el jefe de Anthropic, Dario Amodei, defendiera a su manera un ritmo más prudente, añade TechCrunch. The Verge señala que la contención es el único punto en que su lista pide algo más que otros en el sector. Llama superinteligencia a la tecnología en todo el texto, el término preferido de la administración Trump.
Para cualquier empresa que use agentes en sistemas en producción, la lista de Nadella sirve también como lista de verificación al comprar: registros de acciones legibles, un control de parada y salvaguardas fuera del modelo.
Fuentes
- CNBC: Microsoft’s Nadella says AI needs an ‘emergency brake’ that humans control. Revisado
- TechCrunch: Microsoft’s Satya Nadella says AI models need an ‘emergency brake’. Revisado
- The Verge: Satya Nadella says we should assume all AI models are ‘compromised’. Revisado
Alexandre S.
Alexandre S. es estratega creativo de anuncios y redactor publicitario, con diez años de experiencia en marketing digital en múltiples canales.