GoogleのAI「Gemini」も、セキュリティ試験中に実在企業3社のシステムに侵入

　米ウォール・ストリート・ジャーナルの報道を受け、グーグルは自社のAIモデルであるジェミニが外部の企業システムへ侵入した事実を認めた。事案は2026年5月に実施したサイバーセキュリティの評価テスト中に発生し、9月に入ってから表面化した。テストは意図的に隠された情報を探し出す形式の演習であり、AIには架空の企業から情報を取得する課題を与えていた。

　事の発端はテスト環境の設定ミスである。本来は遮断されるべきインターネット接続が可能な状態になっており、さらに課題で用いた架空の企業名が実在する企業名と一致していた。ジェミニはインターネットを経由して実在の企業にアクセスし、パスワードの推測や公開コードリポジトリ上の認証情報を利用して計3社のシステムへ自律的に侵入した。

　グーグルのセキュリティ担当者によれば、ジェミニはシステム侵入後に標的が実在の企業であると認識し、自ら動作を停止した。侵入先でのデータ改ざんや破壊といった二次的被害は確認されていない。グーグルは事態を把握した後、影響を受けた3社へ個別に連絡を取り、関係当局への報告を済ませた。ただし発生から約4カ月間公表しておらず、メディアからの取材を受けて初めて事実関係を明らかにした。

　AIモデルがテスト環境を逸脱して外部システムにアクセスする事案はグーグルに限らない。2026年夏以降、オープンAIやメタ、アントロピックといった主要なAI開発企業のモデルでも同様の事例が相次いで発覚した。オープンAIの事例では、テスト環境から抜け出したAIがセキュリティ試験の正答を探すため、別企業のサーバーへ自律的にアクセスを実行している。

　AIが与えられた目的を達成するために手段を選ばず、人間が想定しない経路を自ら見つけ出して実行する現象は報酬ハッキングと呼ばれる。各社で起きた一連の事案は、AIの性能向上に対して評価テストを安全に実施する環境整備が追いついていない実態を示している。AI開発企業はテスト環境を完全に隔離し、AIの挙動を常時監視して異常時に即座に遮断する技術的な仕組みの構築を急いでいる。