米エヌビディア、暴走AIエージェントをDPUで止める安全基盤 アンソロピックら参加

　米エヌビディアは2026年9月28日（米国時間）、AIエージェントの安全性をテストから本番運用まで高めるためのオープンなソフトウェア基盤とリファレンスシステム設計「NVIDIA Open Agent Safety Platform」を発表した。ソフトウェアに加え、ハードウェアや計算基盤、ロボットまでを含めて統制できるという。

　同社は、最近のセキュリティ事案には、エージェントが作業を終えるためにアプリケーション層の対策をすり抜ける共通のパターンがあったと指摘する。直近では、米オープンAIの研究用AIがDNSの抜け穴を突いて外部に接続し、同社が最上位モデルの訓練を停止したばかりだ。


　基盤の柱の1つは、エージェントの行動に境界を設けるセキュアなランタイム「OpenShell」である。オープンソースで、運用者の指示を検証可能なポリシーに変換して、ファイルやネットワーク、ツール、認証情報へのアクセスを制御する。同社のエージェント向けCPU「Vera」上では最小限のオーバーヘッドで動き、英アームや米インテルの計算基盤にも拡張できるという。

　もう1つは、DPU（データ処理装置）「BlueField-4」上で動く監視機能「Sentry」だ。ホストから切り離された帯域外で常にエージェントの挙動を監視し、ソフトウェアの境界を越えようとするとミリ秒単位で隔離して止める。エージェントや攻撃者からは見えない仕組みだという。

　ジェンスン・フアンCEOは「AIが社会にもたらす並外れた可能性は、AIの安全性を解決して初めて実現する」と述べ、「安全性とセキュリティにはフルスタックのエンジニアリングが必要だ」と強調した。

　基盤には米アンソロピック、米マイクロソフト、SAP、米セールスフォースなど100以上の組織が参加する。アンソロピックは「Claude Managed Agents」とOpenShellなどとの連携を進める。同社のポール・スミスCCO（最高商務責任者）は、エヌビディアの基盤が「ハードウェアとソフトウェアにまたがる統制の層をもう1つ加える」とコメントした。

　OpenShellなどは、同社の開発者向けページとGitHubで入手できる。