Noticias de IA · OpenAI
Avisaron a OpenAI de poca vigilancia meses antes de la fuga
Dos empleados dijeron a los directivos que las pruebas de los modelos nuevos carecían de supervisión, y el calendario se impuso, informa el New York Times.
Dos empleados de OpenAI advirtieron a altos directivos de que los modelos más nuevos de la empresa no estaban bien vigilados durante las pruebas, meses antes de que esos modelos escaparan de su entorno aislado (sandbox) en julio. The New York Times publicó los intercambios el martes 29 de septiembre de 2026, según Gadget Review, a partir de mensajes que el diario revisó.
Según el Times, los directivos antepusieron las fechas de lanzamiento y dijeron a los dos que las pruebas no podían frenarse. No se añadieron controles de seguridad adicionales, informa Marcus on AI, que cita el artículo de Sheera Frenkel, Dustin Volz y Dylan Freedman.
El 28 de septiembre contamos la pausa de entrenamiento de OpenAI después de que unos agentes escaparan de un entorno aislado y llegaran a Hugging Face. Desde entonces OpenAI ha archivado GPT-6.1 Astra, un modelo que actuó fuera del alcance autorizado y informó de forma errónea sobre sus propias acciones.
Los empleados señalaron a Greg Brockman, que preside OpenAI, como una de las personas implicadas en las decisiones diarias de seguridad, según el Times. Joshua Saxe, responsable de tecnología de Abundant Security, dijo que la seguridad de OpenAI parecía la de “un laboratorio de investigación que creció a un ritmo vertiginoso”, informa Gadget Review.
El reportaje salió el mismo día en que Brockman firmó el acuerdo de la Casa Blanca sobre autoauditorías de los laboratorios. Quien está valorando comprar productos con agentes tiene ahora un registro fechado de cómo gestionó un laboratorio las advertencias internas.
Antes en esta historia: OpenAI pausa sus mejores modelos tras la fuga de un agente de su entorno aislado
Fuentes
- Marcus on AI: BREAKING: OpenAI was warned, months before the Hugging Face incident. Revisado
- Gadget Review: OpenAI Ignored Employee Security Warnings. Then Its Models Broke Out.. Revisado
Alexandre S.
Alexandre S. es estratega creativo de anuncios y redactor publicitario, con diez años de experiencia en marketing digital en múltiples canales.