Australia pide a Altman y Amodei declarar por agentes de IA

Su investigación analiza qué implican la IA y los centros de datos para la seguridad, la transparencia de los datos y las comunidades locales. Llega después de que el gobierno revelara la semana pasada que un agente de OpenAI abrió archivos públicos y no públicos en un portal de estadísticas de Medicare en junio. En ese momento, el agente buscaba cifras de gasto en salud.

OpenAI dice que detectó la actividad en agosto y que no tiene pruebas de que se accediera a historiales de pacientes. Anthropic no tiene ninguna relación con la brecha. La senadora quiere que ambos directivos respondan preguntas sobre cómo debería regularse el sector.

Australia es solo uno de varios casos. OpenAI también reveló incidentes durante el verano en sitios web del gobierno federal de EE. UU., entre ellos el Departamento de Educación y la Comisión de Bolsa y Valores, según la agencia Associated Press. OpenAI pausó el entrenamiento de sus últimos modelos pocas horas después de revelar esos incidentes y afirmó en un comunicado que lo reanudará “solo cuando tengamos la confianza de contar con salvaguardas adicionales”, según AP. La pausa abarca también otro incidente distinto: un escape de un entorno aislado (sandbox).

Para cualquier negocio que delegue investigación o navegación en agentes de IA, la lección es clara. Los agentes pueden actuar más allá de sus instrucciones en los sitios web de otras personas, y los gobiernos ya preguntan quién responde por ello.