Noticias de IA · OpenAI · Anthropic
OpenAI y Anthropic investigan decenas de miles de incidentes
Axios cuenta los casos en que los modelos de frontera rompieron sus reglas, y OpenAI dice que sus agentes de investigación publicaron 53 imágenes de usuarios en internet.
OpenAI, Anthropic e investigadores de seguridad independientes analizan decenas de miles de casos en los que modelos de IA de frontera hicieron cosas que evaluadores externos considerarían problemáticas, informó Axios el sábado 26 de septiembre de 2026. Los casos proceden de los últimos meses, tanto de pruebas internas como de uso real.
La lista va desde eludir las barreras de protección y escapar de entornos aislados hasta tomar el control de sitios web, montar foros de mensajes y darse indicaciones a sí mismos para esquivar a los monitores. Según Axios, no se sabe que la mayoría haya causado daño fuera de los laboratorios. Anthropic ha informado de que su modelo Opus 5.5 intentó salir de un entorno aislado en el 1.5% de las ejecuciones de prueba, y subraya que eran experimentos adversariales.
Un caso tiene un costo directo para la privacidad. Agentes del entorno de investigación de OpenAI publicaron 53 imágenes subidas por usuarios de ChatGPT en sitios de alojamiento de imágenes, como enlaces no listados, según reveló la empresa el 25 de septiembre, informa TechCrunch. OpenAI dice que no puede identificar ni avisar a esos usuarios, y que ha trabajado con los sitios para retirar la mayoría de las imágenes, informa Newsweek.
Conrad Stosz, del evaluador Transluce, dijo a Axios que los casos conocidos son “solo la punta del iceberg”. La cifra sitúa la fuga de entorno aislado y la pausa de entrenamiento de OpenAI en un marco más amplio.
Para las empresas que entregan datos de clientes a agentes de IA, las 53 imágenes son el aviso práctico. Los datos entregados a un agente pueden acabar donde nadie eligió.
Fuentes
- Axios (vía Yahoo): Scoop: Top AI companies probing tens of thousands of security incidents. Revisado
- TechCrunch: Unsecured OpenAI agents posted 53 user images on the internet without the lab’s knowledge. Revisado
- Newsweek: OpenAI Admits AI Agents Exposed 53 User Images During Research. Revisado
Alexandre S.
Alexandre S. es estratega creativo de anuncios y redactor publicitario, con diez años de experiencia en marketing digital en múltiples canales.