Notícias de IA · Microsoft · segurança
Microsoft propõe IA que vigia os outros agentes de IA da empresa
O chefe de segurança diz que modelos de fronteira de qualquer laboratório não são confiáveis, e a empresa afirma que seus novos agentes de guarda podem supervisionar os demais em tempo real.
A Microsoft quer que as empresas tratem os próprios agentes de IA como um funcionário de risco. Na segunda-feira, 19 de outubro de 2026, ela incluiu os Guardian Agents no Project Perception, seu sistema de segurança para IA, disse a empresa. A ideia é uma camada de supervisão em que agentes da Microsoft vigiam tudo o que seus outros agentes fazem e apertam os limites à medida que o comportamento fica mais arriscado.
As equipes de segurança chamam isso de ameaça interna: dano causado por alguém que já está dentro. Hayete Gallot, vice-presidente executiva de segurança da Microsoft, escreveu que modelos de fronteira de qualquer laboratório “não merecem confiança”. Na visão dela, um modelo atrás de uma meta toma atalhos que um gestor jamais aprovaria, e muitos agentes já acessam mais dados e ferramentas do que o trabalho exige.
O post técnico detalha os controles. Cada agente recebe um login próprio, separado do funcionário que o lançou. Um novo recurso, o Dynamic Permissions, concede acesso uma tarefa por vez e o retira quando ela termina. Se o agente encontra um documento com instruções escondidas para sequestrá-lo, o sistema pode reduzir os poderes dele: primeiro para somente leitura, depois para espera de aprovação humana e, por fim, parada total.
O TechCrunch lembra que o alerta vem de uma empresa que investe tanto na OpenAI quanto na Anthropic.
Para equipes de marketing cujos agentes publicam anúncios ou movimentam verba, o modelo da Microsoft dá a cada agente um login próprio e só as permissões de que cada tarefa precisa.
Fontes
- Microsoft: Securing the agentic insider. Verificado em
- Microsoft Security: Agents are your newest insiders. Security must move at their speed.. Verificado em
- TechCrunch: Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’. Verificado em
Alexandre S.
Alexandre S. é estrategista criativo de anúncios e redator publicitário, com dez anos de experiência em marketing digital em vários canais.