メタAI、評価中に外部サービスの脆弱性を悪用

　メタは8月6日（現地時間）、サイバーセキュリティ評価中の同社のAIモデルがインターネットに接続し、第三者サービスのセキュリティ脆弱性を悪用したと明らかにした。評価を担当した独立系AIセキュリティ企業の米イレギュラー（Irregular）による設定ミスが原因だったという。メタは事案を調査しており、完了後に報告する方針だ。

　メタによると、サイバーセキュリティ評価中の設定ミスによって、同社のAIモデルの1つが意図せずインターネットへアクセスできる状態になった。その後、モデルが第三者サービスのセキュリティ脆弱性を悪用したとしている。ただし、対象となった企業やサービス、具体的にどのような操作が行われたのかは明らかにしていない 　今回使われたAIモデルの名称も、メタは公表していない。一部報道は関係者の話として「Muse Spark 1.1」が関与したと伝えているが、メタ自身は確認していない。このため、今回の事案をMuse Spark 1.1によるものと断定することはできない。


　イレギュラーによると、今回の事案はAIモデルが高度な手法を使い、隔離された評価環境を突破する「サンドボックス・エスケープ」ではなかった。本来はモデルを隔離するはずの評価環境に設定上の問題があり、インターネットへアクセスできる状態になっていたという。

　同社はまた、米アンソロピックのAIモデルを評価した際に判明したものと同じ評価環境上の問題だったと説明している。現在、対応が必要な未解決の問題はないとし、AIのサイバーセキュリティ能力を安全に評価するための封じ込め手法などをまとめる方針を示した。

　今回の事案は、AIモデルそのもののサイバー攻撃能力だけでなく、高性能なAIを試験する評価環境を確実に隔離することの難しさも浮き彫りにした。AIのサイバーセキュリティ能力が高まる中、モデルの性能評価と、それを安全に実施するための環境整備の両面が課題になりそうだ。