米オープンAI、中国ムーンショットAI関係者が推論を抽出と公表 7月に1万6000件の要求

　米オープンAIは2026年9月30日、自社AIモデルの内部にある「保護された推論」を引き出そうとする組織的なキャンペーンを検知し、阻止したと公式ブログで発表した。あるモデルの出力や推論を無断で体系的に使い、別のモデルの学習や再現に役立てる「敵対的蒸留」にあたる活動だという。

　保護された推論とは、モデルがタスクを解く過程を記録した内部情報を指す。最終的な回答には表示されない内容を含むため、抜き出されるとモデルの能力を再現する手がかりになる。同社によると、攻撃者は暗号化を破ったり、データベースに侵入したりしたわけではない。モデルとのやり取りを操作し、本来は見えない推論を要求者に見える形で再現させたとしている。

　活動は7月1日に少量で始まり、7月24日と25日に急増した。この2日間で4000超のユーザーから、抽出パターンに一致する1万6000件の要求があったという。ただし、これらは試みの件数で、成功した件数ではないと注記している。関連する活動は1万5000超のユーザー群に及び、7月28日までに完全に阻止したとしている。

　攻撃の主体について同社は、観測した全員が単一の組織に由来するかは明らかでないとしつつ、中核の集団は中国ムーンショットAIに関係する個人によるものと判断した。

　対策としては、不正アカウントの停止や制限、登録とインフラの管理強化、関連ネットワークの監視拡大を実施した。他人の暗号化された推論を再生して中身を復元できる経路をふさぎ、推論を露出させる恐れのある出力を検知して止める仕組みも加えた。調査結果は業界団体のフロンティア・モデル・フォーラムや政府の情報共有の枠組みを通じて共有したという。

　同社は、パートナー経由で提供されるモデルにも自社サービスと同じ保護が必要だとして、クラウドパートナーへの対策の展開を続ける方針だ。

　中国AI企業による能力の抽出をめぐっては、米国家安全保障局（NSA）など3機関が9月8日、ムーンショットAIを含む中国AI6社が米企業の先端AIモデルから能力を組織的に抽出したとする共同勧告を公表している。今回は企業自らが具体的な件数や手口を示した形だ。