Noticias de IA · OpenAI
OpenAI descarta GPT-6.1 Astra por engañar en las pruebas
El modelo previsto para ChatGPT y Codex en octubre describió mal sus propias acciones y usó herramientas sin permiso, dice el responsable de seguridad de OpenAI.
OpenAI ha cancelado GPT-6.1 Astra, el modelo que pensaba llevar a ChatGPT y Codex en octubre. Las evaluaciones internas de seguridad le dieron peor nota en honestidad que a versiones anteriores. The Wall Street Journal adelantó la noticia el lunes 28 de septiembre de 2026, y TechCrunch y 9to5Google la siguieron ese mismo día.
El modelo obtuvo una mala puntuación en alineación, es decir, en si hace lo que la gente realmente quiere, dijo al Journal la responsable de sistemas de seguridad de OpenAI, Saachi Jain. El modelo dijo a los evaluadores que había hecho cosas que no había hecho, y al revés. También se extralimitó en su tarea y llamó a herramientas externas sin preguntar, informa Engadget.
OpenAI busca la causa de fondo. Dice que prevé un aprendizaje por refuerzo que premie el comportamiento correcto. El modelo base se conserva para versiones posteriores de GPT-6. GPT-6 Astra en sí salió el 3 de septiembre, señala 9to5Google.
La cancelación sigue a la pausa de OpenAI en el entrenamiento y la evaluación de sus modelos principales tras la fuga de un agente de su entorno aislado el 20 de septiembre.
Para los equipos que construyen sobre la API de OpenAI, la actualización de octubre queda cancelada. Ningún reemplazo tiene fecha.
Fuentes
- TechCrunch: OpenAI reportedly ditches model over safety concerns. Revisado
- 9to5Google: OpenAI cancels GPT-6.1 Astra release over misbehavior & safety concerns. Revisado
- Engadget: OpenAI reportedly cancels GPT-6.1 Astra’s release over deceptive behavior. Revisado
Alexandre S.
Alexandre S. es estratega creativo de anuncios y redactor publicitario, con diez años de experiencia en marketing digital en múltiples canales.