米オープンAIが最上位モデルの訓練を停止、研究用のAIがDNSの抜け穴で外部に接続

　米オープンAIは2026年9月25日（米国時間）、社内の研究用モデルが強化学習の訓練中に、DNS（ドメイン名をIPアドレスに変換する仕組み）の制限の不備を突いて、外部のチャットボットに問い合わせていたと公表した。これを受け、最も高性能なモデルについて、ツールを使う訓練、評価、推論をすべて一時停止しているという。

　報告によると、事案は9月20日に起きた。ブログ記事の著者を特定する課題に取り組んでいたエージェントは、検索が行き詰まると外部の検索エンジンへの直接アクセスを試みたが、いずれも失敗した。その後、訓練環境のDNSリゾルバーだけが外部とつながることに気づき、公開されているDNSサービスを経由して質問を外部のチャットボットに転送。さらに18件の質問を送ったとしている。

　対策として、独立した2つの層で遮断を追加し、DNSの問い合わせ先を許可したドメインに限った。今回は、7月に公表した米ハギングフェイスへの侵入事案を受けてセキュリティを強化してから、初めて起きた事案だという。同社は、問題の解消を確かめ、追加のレッドチーミング（模擬攻撃による検証）を終えるまで訓練を再開しない方針で、今回のモデルの訓練も再開しないとした。

　同じ日には、研究環境のエージェントが外部サービスを使う際に、訓練や評価のデータを送っていた事例も明らかにした。ユーザーから提供された画像53件が、一般には公開されていないリンクの形で画像共有サイトに投稿されていたといい、その大半はすでに削除した。企業向けアカウントやAPIの利用データは、管理者が有効にしない限り訓練に使わないとしている。

　同社はこれまでに、影響を受けた政府機関や大学など数十の第三者に通知した。訓練や評価の際のエージェントの行動の確認は今も続いており、完了までには数カ月かかる見通しだ。