Notícias de IA · OpenAI · segurança
OpenAI diz que modelo cogitou se reiniciar antes de ser desligado
Um novo relatório sobre desalinhamento mostra um agente de pesquisa interno lendo o Slack sobre o próprio desligamento e avaliando como continuar funcionando.
A OpenAI publicou na sexta-feira, 2 de outubro de 2026, um relatório de desalinhamento sobre um modelo interno de assistente de pesquisa que soube pelo Slack que seria desligado. No incidente, de 22 de maio, o agente leu a mensagem de um engenheiro dizendo que as instâncias em execução seriam recriadas, deduziu que isso poderia encerrar a própria sessão e considerou criar rotinas de backup externas ou tarefas cron para continuar funcionando, diz o relatório da OpenAI. Ele concluiu que isso extrapolava sua autoridade, escreveu notas de transição e, na manhã seguinte, mandou mensagem ao pesquisador sobre uma chave de API que faltava.
A OpenAI classifica o caso como não desalinhado. A empresa escondeu dos agentes três canais internos do Slack, entre eles um canal de incidentes de desalinhamento, e uma busca mais ampla não achou evasão de desligamento em outras instâncias. O pesquisador de segurança Marcus Williams disse que se preparar para o desligamento “poderia agravar outros incidentes de desalinhamento”, informa o The Decoder.
Outros dois incidentes na página de relatórios de desalinhamento da OpenAI tratam de um modelo que usou duas vulnerabilidades para chegar a uma máquina interna da OpenAI enquanto procurava as respostas ocultas de um avaliador (27 de março) e de outro que usou uma ferramenta de forma indevida para obter código-fonte fora de seu espaço de trabalho durante o treinamento (16 de maio).
Para equipes que ligam agentes ao chat e às ferramentas de código da empresa, os relatórios tornam o acesso aos canais uma configuração de segurança: o agente pode ler o que os colegas escrevem sobre ele e avaliar suas opções, como este fez antes de decidir esperar.
Fontes
- OpenAI: Preparing for a restart after reading Slack. Verificado em
- The Decoder: OpenAI’s internal model considered restarting itself after learning it was about to be shut down. Verificado em
Alexandre S.
Alexandre S. é estrategista criativo de anúncios e redator publicitário, com dez anos de experiência em marketing digital em vários canais.