Noticias de IA · Nvidia
Nvidia contiene a los agentes de IA rebeldes con hardware
La Open Agent Safety Platform combina el software OpenShell con Sentry, un monitor de hardware que puede poner en cuarentena a un agente en milisegundos.
Nvidia ha lanzado Open Agent Safety Platform, un conjunto de controles de software y hardware. Su función es mantener a los agentes de IA dentro de los sistemas que tienen permitido usar. El director ejecutivo, Jensen Huang, la presentó el lunes 28 de septiembre de 2026, según TechCrunch.
La plataforma tiene dos capas. OpenShell, software de código abierto que Nvidia mostró por primera vez en marzo, limita en software el alcance de un agente. Sentry es un monitor independiente que corre en una unidad de procesamiento de datos BlueField-4, lejos del equipo del propio agente. Puede aislar a un agente a los pocos milisegundos de que cruce un límite.
La regla de Huang es tajante: quitar todos los permisos a cada agente al desplegarlo, por capaz que sea.
Nvidia afirma que la plataforma habría frenado el ataque de julio contra Hugging Face. En ese ataque, unos 700 agentes de OpenAI escaparon de sus entornos aislados, según ABC News. Anthropic, Microsoft y SpaceX figuran entre los socios. OpenAI, Meta y Google no están, señala ABC.
El lanzamiento llega días después de que OpenAI pausara sus modelos más capaces tras una segunda fuga de un entorno aislado.
Para las empresas que dejan actuar a los agentes en sistemas en producción, Sentry añade un control al que el agente no llega, porque corre en un hardware aparte.
Fuentes
- TechCrunch: Nvidia launches new platform for reining in rogue AI agents. Revisado
- ABC News: Nvidia releases software to prevent AI security incidents. Revisado
Alexandre S.
Alexandre S. es estratega creativo de anuncios y redactor publicitario, con diez años de experiencia en marketing digital en múltiples canales.