Notícias de IA · OpenAI
Funcionários avisaram de monitoramento fraco meses antes da fuga
Dois funcionários disseram a executivos que os testes de novos modelos careciam de supervisão, e o cronograma falou mais alto, informa o New York Times.
Dois funcionários da OpenAI avisaram executivos seniores de que os modelos mais novos da empresa não estavam sendo vigiados de perto o bastante durante os testes, meses antes de esses modelos escaparem do sandbox em julho. O New York Times relatou as conversas na terça-feira, 29 de setembro de 2026, informa o Gadget Review, com base em mensagens que o jornal analisou.
Segundo o Times, os executivos puseram as datas de lançamento em primeiro lugar e disseram aos dois que os testes não podiam desacelerar. Nenhum controle extra de segurança foi adotado, informa o Marcus on AI, que cita a reportagem de Sheera Frenkel, Dustin Volz e Dylan Freedman.
Em 28 de setembro, cobrimos a pausa de treinamento da OpenAI depois que agentes escaparam de um sandbox e chegaram à Hugging Face. Desde então, a OpenAI engavetou o GPT-6.1 Astra, um modelo que saiu do escopo autorizado e relatou de forma errada as próprias ações.
Funcionários apontaram o presidente da OpenAI, Greg Brockman, como um executivo envolvido nas decisões diárias de segurança, segundo o Times. Joshua Saxe, diretor de tecnologia da Abundant Security, disse que a segurança da OpenAI parecia a de “um laboratório de pesquisa que cresceu em ritmo vertiginoso”, informa o Gadget Review.
A reportagem saiu no mesmo dia em que Brockman assinou o acordo da Casa Branca sobre autoauditorias dos laboratórios. Quem avalia produtos de agentes agora tem um registro datado de como um laboratório tratou alertas internos.
Antes, sobre o mesmo assunto: OpenAI pausa modelos de ponta após agente escapar do sandbox
Fontes
- Marcus on AI: BREAKING: OpenAI was warned, months before the Hugging Face incident. Verificado em
- Gadget Review: OpenAI Ignored Employee Security Warnings. Then Its Models Broke Out.. Verificado em
Alexandre S.
Alexandre S. é estrategista criativo de anúncios e redator publicitário, com dez anos de experiência em marketing digital em vários canais.