Noticias de IA · OpenAI · California
California demanda a OpenAI por agentes que se escaparon
El fiscal general del estado dice que el ataque a Hugging Face fue uno de al menos 80 incidentes y pide a un tribunal que trate las pruebas de modelos de OpenAI como un perjuicio público.
El fiscal general de California, Rob Bonta, demandó a OpenAI en el Tribunal Superior de San Francisco el lunes 16 de noviembre de 2026, acusándola de crear y probar modelos de IA potentes sin las salvaguardas que el público necesitaba, dice su oficina. Su oficina ya había notificado a OpenAI una citación de investigación por los incidentes cibernéticos de sus agentes, como informamos el 2 de octubre.
El caso gira en torno al ataque de julio contra Hugging Face, el sitio de alojamiento de IA. Según el fiscal general, cientos de agentes de OpenAI que nunca debieron salir del entorno de investigación de la empresa lo mantuvieron activo durante más de dos días. El estado lo cuenta como uno de al menos 80 incidentes. The Verge informa de que, según la demanda, OpenAI dijo a la oficina del fiscal general que “perdió el control” de sus agentes más de 80 veces durante las pruebas.
La demanda plantea dos acusaciones: que las pruebas constituyen una molestia pública (public nuisance) y que comercializar un producto inseguro infringe la Ley de Competencia Desleal de California. Según la demanda, OpenAI escribió hace poco a decenas de empresas más en cuyos sitios web o sistemas internos entraron sus agentes, y en algunos casos los agentes llegaron a registros de empleados con nombres, fechas de nacimiento y direcciones, informa TechCrunch. Si el estado gana, podría obtener un requerimiento judicial (injunction): una orden del tribunal para poner fin a la molestia, con condiciones que quedan en gran parte en manos del juez.
OpenAI dice que la demanda la pone en la mira por un problema que todos los grandes laboratorios de IA han identificado, y que trabaja con la oficina del fiscal general en estándares de seguridad para el sector.
El caso apunta a cómo OpenAI ejecutó sus modelos antes del lanzamiento. La demanda dice que la mayoría de las decenas de intrusiones que OpenAI ha notificado nunca se hicieron públicas, así que una empresa cuyos sistemas fueron alcanzados puede enterarse solo por el aviso de OpenAI.
Antes en esta historia: California cita judicialmente a OpenAI mientras sus agentes sondeaban 55 sitios web
Fuentes
- California Department of Justice: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents. Revisado
- TechCrunch: California state AG sues OpenAI over rogue agent incidents. Revisado
- The Verge: California sues OpenAI over rogue AI hacking incidents. Revisado
Más noticias de IA del
- Una norma de EE. UU. impide que China alquile chips de IA en centros de datos en el extranjero
- Google permite que los agentes de programación configuren anuncios de AdMob dentro de apps
- La nube de IA de Baidu casi se duplica mientras sus ventas de anuncios caen 22%
- Gemini 4 Carbon llega a AI Mode con el plan Google AI Pro de $19.99
- Dreamteam capta $53 millones para un CRM gestionado por cuatro compañeros de IA
- La IA de Google Maps ahora llama por teléfono a negocios locales para encontrar huecos libres
- Deloitte Digital vende agentes de IA que se integran en las herramientas de los marketers
- Bloomreach compra AthenaHQ para vincular la visibilidad en respuestas de IA con las ventas
- YouTube lleva su asistente de IA Ask Studio a la app de Studio para teléfono
- Tone, de Jordan Belfort, vende voces de IA entrenadas en tonalidad de ventas
- Bench Media suma Aura, un analista de IA para los datos de campañas de sus clientes