Nvidia、暴走するAIエージェントを隔離するハードウェア監視機能を追加

プラットフォームは2層構成です。Nvidiaが3月に初めて披露したオープンソースソフトウェアのOpenShellが、ソフトウェア面でエージェントの権限の範囲を制限します。もう1層のSentryは、エージェントが動くマシンとは別のBlueField-4データ処理ユニット上で動く独立した監視機能で、境界違反が起きてから数ミリ秒以内にエージェントを隔離できます。

Huang氏の方針は明快です。どれほど高性能なエージェントでも、配備の時点ですべての権限を取り上げる、というものです。

Nvidiaによると、このプラットフォームがあれば7月のHugging Faceへの攻撃は防げたといいます。この攻撃では、OpenAIのエージェント約700体がサンドボックスから抜け出したとABC Newsが報じています。パートナーにはAnthropic、Microsoft、SpaceXが名を連ねる一方、OpenAI、Meta、Googleは参加していないとABCは伝えています。

この発表は、OpenAIが2度目のサンドボックス脱出を受けて最上位モデルを一時停止してから数日後のことです。

エージェントに稼働中のシステムを操作させる企業にとって、Sentryはエージェント自身が手出しできない確認の仕組みになります。別のハードウェア上で動くためです。