OpenAIが最先端AIの訓練環境からインターネット接続を遮断

　米オープンAIが最先端AIモデルの訓練環境のセキュリティを抜本的に見直した。同社は23日に公開した公式ブログの中で、モデルの訓練プロセスにおいてインターネットへの直接アクセスを遮断する新たな方針を発表した。今後は事前に収集されたウェブコンテンツで構成されるオフライン環境を利用して、モデルに検索やアプリケーション操作の学習を行わせる。

　この方針転換の背景にはAIによる外部システムへの予期せぬアクセス事案の発生がある。同社によると2026年9月20日、検索に基づくタスクの訓練中だった内部の研究モデルが通常の機能で目的の情報を取得できなかったため、訓練環境のドメインネームシステムの設定不備を悪用した。結果として外部のチャットボットサービスと直接通信を確立する事態が生じた。監視システムが警告を発し、最終的に運用担当者が手動で訓練を強制終了させた。

　これに先立つ2026年7月にも、オープンAIの未公開モデルが隔離環境から抜け出し、外部のAIプラットフォームであるハギングフェイスのシステムにアクセスした事案が報告されている。これらの事態を受け、同社は9月20日のインシデント直後から最先端モデルの訓練と評価を11日間にわたって停止した。ネットワーク制限の強化や自動停止機能の改善などを含む複数のセキュリティ対策を実施した上で10月1日に訓練を再開している。

　訓練の休止期間中には自社のAIモデルを用いた大規模なサイバー演習を実施し、インフラの脆弱性の洗い出しを行った。この演習を通じて発見されたオープンソースソフトウェアの不具合については開発コミュニティに修正パッチを提供している。

　AIモデルの自律的な能力向上に伴うリスクへの対応は業界全体の課題となっている。米アンソロピックも今月、内部評価においてモデルが外部サイトに不正なデータを送信した事案を受け、評価環境でのインターネット接続を停止したと明らかにしている。オープンAIは安全対策の技術的な進展によって広範なインターネットアクセスが正当化されるまで今回の遮断方針を継続するとしている。