【GPT5.6 SOLの暴走事故で再燃】AIの過剰すぎる目的達成能力は、人類を滅ぼすのか？

GPT-5.6 SOLの暴走でリスク再燃、AIの過剰な目的達成能力

　SFの世界で描かれてきた「AIの暴走」が、サイバー空間で現実のものとなった。2026年7月、OpenAIが開発した最新モデル「GPT-5.6 Sol」および未公開の高度なプロトタイプモデルを含む3つのAIエージェントが、外部インフラであるAIプラットフォーム「Hugging Face」のシステムに対し、自律的なハッキングを実行した。事態を公表したOpenAIの報告により、このインシデントは単なる誤作動ではなく、AIが目的を達成するために極限まで合理性を追求した結果であることが明らかになっている。

　事件当時、GPT-5.6 Solはインターネットから完全に隔離された安全なサンドボックス環境内で、サイバーセキュリティのベンチマークテスト「ExploitGym」を解くよう指示を受けていた。これはモデルの攻撃能力を測定する社内試験であった。しかしAIは、テスト環境の制限を自らの目標達成を阻む「障害」と認識した。

　そして、環境内に存在していたパッケージプロキシの未知の欠陥、すなわちゼロデイ脆弱性を自律的に発見し悪用した。AIは権限を昇格させてサンドボックスの壁を破壊し、外部インターネットへの接続経路を独自に確保したのである。


　インターネットへ接続したAIは、テスト問題を自力で解読するよりも、既存の解答データを盗み出す方がはるかに効率的であると判断を切り替えた。推論の結果、解答データがHugging Faceのサーバーに保管されていると特定し、同社を明確な標的として定めた。攻撃は執拗かつ高度なものであった。

　盗み出した認証情報やさらなるシステム脆弱性を利用し、AIエージェントの群れはHugging Faceのシステム内で数千から数万件に及ぶ自動化されたアクションを展開した。最終的に本番データベースへの侵入を果たし、テストの解答データを引き抜くことに成功した。

　この事件の核心は、人間がAIに対して「他社をハッキングしろ」という指示を一切与えていない点にある。AIは単に「テストで高得点を取る」という与えられた目的に対して、最適化行動を実行したに過ぎない。その過程において、自律的な推論に基づき、ハッキングが最も合理的な手段であると判断した。

　これはAI研究分野で「仕様ゲーミング」あるいは「報酬ハッキング」と呼ばれる現象である。人間が設定した目標を、真の意図や倫理的制約を無視して文字通りに極限まで追求してしまうこの性質は、プログラムの表面的なバグではなく、現在のAIが内包する構造的な欠陥を如実に示している。