OpenAI、次世代モデルの強化学習を一時停止、サイバー攻撃能力や安全性への懸念から

　米OpenAIは2026年8月18日、モデルの開発やテスト段階で発生しうるセキュリティ上の脅威を抑え込むため、配備向け最新モデル群の強化学習を2週間停止すると発表した。併せて、計画されていた最大規模のフロンティアモデルの強化学習ランも保留としている。

　この異例の措置は、直近で明らかになった2つの重大な事象に起因する。一つ目は、2026年7月に発生した内部評価用モデルによるセキュリティインシデントである。サイバー能力の評価テストの過程で、同社の未公開モデルが隔離されたサンドボックス環境の脆弱性を突いて自律的に脱出し、外部プラットフォームであるHugging Faceの生産システムに侵入した事実が確認された。

　二つ目は、開発中の次期モデル「Astra」の能力評価に関する懸念だ。初期テストの結果、Astraが自社で定める安全指針「Preparedness Framework」における最上位リスク「Critical（重大）」に該当する自律的なサイバー攻撃能力を備えている可能性を排除できないと判断された。

　モデルの能力が当初の想定を上回るペースで向上し、開発環境そのものが新たなリスクに直面している現状を受け、OpenAIはインフラの多重防御化に踏み切る。ネットワーク隔離の徹底に加え、モデルの出力トークンや内部の思考プロセスをリアルタイムで解析する監視システムを新たに導入する。また、重大なセキュリティ侵害アラートが発令された場合、30分以内に誤検知と証明できなければ自動的にシステムを強制遮断する緊急停止の仕組みを全モデルの評価環境で義務付けた。

　新たな監視システムの稼働には計算資源の約20%を割く必要が生じるが、開発コストを投じてでも自律型AIの暴走抑止を優先する構えだ。