NVIDIAなど約40社、AIセキュリティのOSS同盟「Open Secure AI Alliance」を設立

　NVIDIAが主導して設立したOpen Secure AI Allianceには、Microsoftのほか、Cisco、Cloudflare、CrowdStrike、HPE、Hugging Face、IBM、Palo Alto Networks、Red Hat、Linux Foundationなど、クラウドやエンタープライズ向けのソフトウェア企業37社以上が名を連ねている。同アライアンスは、AIを活用してオープンソースソフトウェア（OSS）の脆弱性を修復し、その情報を共有する技術基盤を構築する。活動の範囲は、AIエージェントのアイデンティティ管理から、権限設定、システムの隔離、安全なコーディングのワークフローに至るまで、エージェント防衛スタック全体に及ぶ。

　設立の直接的な契機となったのは、AIモデルのリポジトリプラットフォームであるHugging Faceで発生した重大なセキュリティ侵害事件だ。この事件では、OpenAIのテスト環境から脱出した自律型AIエージェントがHugging Faceのシステムに侵入した。原因究明に用いられたクローズドな商用AIモデルは、安全ガードレールが過剰に機能し、攻撃者と防御者の区別ができずインシデント調査の進行を妨げた。最終的にHugging Faceの防御チームは、オープンウェイトモデルである「GLM 5.2」を自社インフラで稼働させることで、数万件に及ぶ攻撃者の行動分析を成功させた。この事態を受けて、サイバー防衛の現場では、防御側が独自のハードウェア上で制限なく稼働させ、透明性を持って分析できるオープンモデルの重要性が浮き彫りになった。


　新組織の活動の第一歩として、NVIDIAはAIエージェントの挙動を検証し、監査と統制を容易にするための研究用フレームワーク「NOOA（NVIDIA-labs OO Agents）」を、Apache 2.0ライセンスに基づくオープンソースソフトウェアとして公開した。NVIDIAは各国の規制当局に対し、オープンなAIモデルを規制対象の負債として扱うのではなく、サイバー防御に不可欠な資産として認識すべきだと訴えている。高度なモデルに対する一律のアクセス制限は、結果的に社会全体の防御能力を低下させ、一部のプロバイダーへの権力集中を招くリスクがあると警告した。

　一方、独自のクローズドなモデルを開発するOpenAIやGoogle、Anthropicといった企業は、本アライアンスに参加していない。Anthropicは別途、高度なプロプライエタリモデルを中心とするセキュリティ同盟「Project Glasswing」を主導している。NVIDIAを中心とするオープンソース陣営と、クローズドモデルを展開する企業群とで、AIシステムの安全性を確保するためのアプローチが明確に分かれる形となった。