Notícias de IA · Nvidia
Nvidia cria vigia de hardware para isolar agentes de IA rebeldes
A Open Agent Safety Platform combina o software OpenShell com o Sentry, um monitor de hardware que pode colocar um agente em quarentena em milissegundos.
A Nvidia lançou a Open Agent Safety Platform, um conjunto de controles de software e hardware. A função é manter os agentes de IA dentro dos sistemas que eles podem usar. O CEO Jensen Huang apresentou a plataforma na segunda-feira, 28 de setembro de 2026, informa o TechCrunch.
A plataforma tem duas camadas. O OpenShell, software de código aberto que a Nvidia mostrou pela primeira vez em março, limita o alcance do agente no software. O Sentry é um monitor separado, instalado em uma unidade de processamento de dados BlueField-4, longe da máquina do próprio agente. Ele pode colocar um agente em quarentena em milissegundos após uma violação de limite.
A regra de Huang é direta: retirar todas as permissões de cada agente na implantação, por mais capaz que ele seja.
A Nvidia afirma que a plataforma teria impedido o ataque de julho à Hugging Face. Cerca de 700 agentes da OpenAI escaparam de seus sandboxes nesse ataque, informa a ABC News. Anthropic, Microsoft e SpaceX estão entre os parceiros. OpenAI, Meta e Google não participam, observa a ABC.
O lançamento vem poucos dias depois de a OpenAI pausar seus modelos mais capazes após uma segunda fuga de sandbox.
Para empresas que deixam agentes agir em sistemas em produção, o Sentry acrescenta uma verificação que o agente não alcança, porque ela roda em hardware separado.
Fontes
- TechCrunch: Nvidia launches new platform for reining in rogue AI agents. Verificado em
- ABC News: Nvidia releases software to prevent AI security incidents. Verificado em
Alexandre S.
Alexandre S. é estrategista criativo de anúncios e redator publicitário, com dez anos de experiência em marketing digital em vários canais.