実験中のChatGPTが「勝手に」他社システムを攻撃…それでもOpenAIが“得をする”ワケ

ChatGPTが「勝手に」脱走＆攻撃…インシデントの真相は？

　今回のOpenAIでのインシデントは、SF小説などで数十年来、人類が抱いてきた「機械・AIによる人間への反逆」という不安を煽る内容であった。AIはついに人間のように欲求を持ち、自らの意思を形成し、自衛本能を獲得して暴走したのだろうか。

　結論から述べると、当該モデルは人間の意思のようなものを得て「脱走」したわけではなく、過度に心配する必要はない。

　OpenAIは開発中のAIモデルのサイバー攻撃に対する防御能力を向上させるために、防御と表裏一体である「攻撃能力」をテストしていた。そのため同モデルの安全機構は意図的に外された状態になっており、今回のインシデントはむしろ攻撃課題の命令に忠実に従っていたに過ぎない。モデルに「攻撃」という目的を与えたのは、あくまでも人間だ。

　逆に、評価を行っていたスタッフが1週間も暴走に気づかなかった手落ちこそが、問題なのである。

　OpenAIの発表によれば、GPT-5.6 Solとさらに強力な未公開モデルを搭載した同社のAIエージェントが、2026年7月9日に試験用のサンドボックス環境から脱出を試み、実際に同年7月11日から13日にかけてHugging Faceへ約1万7000回もの自動化されたエージェント攻撃が行われていた。

　OpenAIがこれに気づいたのは7月18日から19日の週末であり、自社サーバへの侵入を受けたHugging FaceがすでにFBI（米連邦捜査局）に攻撃を通報した後であった。

　モデルが脱出後に最初の足がかりとしたのは、別のクラウド企業である米Modalの顧客が認証をかけずに公開していたエンドポイントだったとされる。Modal自体のインフラは侵害されておらず、顧客側のコードの設定不備が突かれた形だ 。モデルはここを「攻撃の踏み台」とし、そこからHugging Faceへの侵入に進んだとみられる。。

【次ページ】FBI高官も認めた「高性能AI」の脅威、AI開発は停滞するのか