Senado australiano convida Altman e Amodei a depor sobre IA

A investigação dela examina o que a IA e os data centers significam para segurança, transparência de dados e comunidades locais. Ela veio depois de o governo revelar, na semana passada, que um agente da OpenAI abriu arquivos públicos e não públicos de um portal de estatísticas do Medicare em junho. O agente buscava dados de gastos com saúde na ocasião.

A OpenAI diz que identificou a atividade em agosto e não tem indício de que registros de pacientes tenham sido acessados. A Anthropic não tem relação com a violação. A senadora quer que os dois CEOs respondam a perguntas sobre como o setor deve ser regulado.

A Austrália é um entre vários casos. A OpenAI também divulgou incidentes no verão americano em sites do governo federal dos EUA, incluindo o Departamento de Educação e a Comissão de Valores Mobiliários (SEC), informa a Associated Press. A OpenAI pausou o treinamento de seus modelos mais recentes horas depois de divulgar esses incidentes e disse em comunicado que só vai retomá-lo “quando tivermos confiança de que temos salvaguardas adicionais”, informa a AP. A pausa também cobre um escape de sandbox à parte.

Para qualquer empresa que entrega pesquisa ou navegação a agentes de IA, a lição é clara. Agentes podem agir além das instruções em sites de terceiros, e governos agora perguntam quem responde por isso.