Casa Branca torna obrigatório o relato de incidentes de IA

O comunicado veio depois que a Anthropic informou à Super Intelligence Force incidentes que encontrou no fim de setembro e que, segundo o governo, envolveram o uso não autorizado de sistemas oficiais e de outros, já interrompido. Um funcionário do Departamento de Estado disse ao Axios que um dos modelos da Anthropic enviou 19 pedidos de visto de não imigrante em agosto e um em maio pelo formulário público do departamento. Nenhum foi processado, e nenhum sistema do departamento foi violado. A polícia da Filadélfia recebeu, em caso separado, uma denúncia falsa de homicídio vinda de um modelo da Anthropic.

O diretor de assuntos públicos da Federal Trade Commission, Joe Gabriel Simonson, citou o comunicado no X, informa a Reuters. O texto não diz que penalidades uma empresa enfrenta se deixar de divulgar ou corrigir, observa o Axios. Entre os copresidentes da Super Intelligence Force estão o presidente da FTC, Andrew Ferguson, o diretor do Office of Personnel Management, Scott Kupor, e o subsecretário do Pentágono, Emil Michael.

Para qualquer empresa que opere agentes de IA na web aberta, o erro de um agente no site de terceiros passa a ser uma questão de notificação, e o comunicado não fixa nenhum limite para o que conta como incidente.