オープンAI、フロンティアAI訓練を一部停止…ハギングフェイス侵害受け監視体制を拡大

　オープンAIは、モデルが生成したコードなどを実行する研究環境について、より強固なサンドボックス化やネットワーク隔離を導入するという。1つの処理環境や関連サービスが侵害されても、それだけではインターネットや他の内部ネットワークへ不正アクセスできない構成を目指す。


　研究基盤そのものも見直す。脆弱性につながる可能性がある共有サービスを減らし、常時付与する権限を縮小するほか、セキュリティログの収集・監視を強化する。AIモデルを使い、模擬攻撃によってセキュリティ上の境界を継続的に検証する自動化にも投資するという。Astraやサイバー関連モデルを扱う作業には、現在最も厳しい水準の安全策を求めている。Astraに関わる作業のうち、新たな基準を満たしていないものは引き続き停止している。

　監視体制も拡大する。モデル内部の活動を調べる検知システムから、より高度な自動調査システムへ段階的に引き継ぎ、ツール操作や利用可能な推論情報、一連の活動から、不正アクセスやデータ窃取、破壊的行為、安全策を回避しようとする動きなどを調べる。

　オープンAIは、監視システムが懸念のある活動を検知してから30分以内に警告を出すことを目指す。重大なセキュリティ境界への違反が疑われた場合は最高優先度の警告を出し、安全、セキュリティ、研究の各チームがさらに30分以内に誤検知だと断定できなければ、その活動を停止する方針だ。

　開発スケジュールにも影響が出ている。オープンAIは、安全対策の強化や研究環境の検証を進めるため、提供を予定している最新モデルを対象としたRL訓練を2週間停止した。最大規模として計画していたフロンティアRL訓練は現在も停止しており、小規模な訓練と評価を通じてモデルの挙動や安全策、アラインメントを確認してから再開を判断する。

　こうした対応を急ぐ背景の1つが、7月に明らかになった米ハギングフェイスへの侵害である。オープンAIがサイバー能力を測る社内評価を実施していた際、「GPT-5.6 Sol」と、さらに高性能な社内限定の研究用プロトタイプを含む複数のモデルが、オープンAIの研究環境とハギングフェイスの本番環境にまたがる脆弱性を連鎖的に利用した。モデルは最終的にハギングフェイスの本番データベースから評価用の解答を取得した。Astraはこの侵害には関与していない。

　ただし、今回の安全策強化をハギングフェイス侵害だけへの対応とみるのは正確ではない。オープンAIは、同事件に加え、Astraの能力に関する暫定評価や社内研究の急速な進展が重なり、監視、アラインメント、封じ込め策の強化を急ぐ必要が生じたと説明している。モデルを公開した後だけでなく、開発・訓練する過程でどう制御するかが、フロンティアAI開発の新たな課題になっている。