米OpenAI、ロシアとイラン発のAI悪用の影響工作を阻止　偽の調査機関や偽記者を使用

　米OpenAIは10月8日（米国時間、時刻不明）に公開した報告書で、ロシアとイランに由来する2件の秘密裏の影響工作に使われたChatGPTのアカウントを停止したと明らかにした。いずれも従来の手法とAIモデルを組み合わせ、巧妙に偽装した組織や人物の活動を支えていたという。発信元を隠したうえで、地政学や紛争に関するメッセージを標的とする人々に届けていた。

　ロシア発の工作は「ダーク・クラーク」と名付けられた。アカウントはラテンアメリカ各国を標的とする作業に使われ、活動の多くは同地域でウクライナの評判を損なうことを狙っていたと見られる。一部は、特にアルゼンチンとボリビアで現地の政治的な結果に影響を及ぼそうとするものだった。オペレーターは、架空の人物「ミア・クラーク氏」を通じて、自称「調査プラットフォーム」の社会調査センター（SRC）を支配していたと見られ、これが名称の由来という。

　ChatGPTの主な用途は、身元不明の上司に提出する内部報告書の作成と更新だった。「流出」を装った偽文書や音声用の台本も作成しており、一部がオンラインで拡散していることも確認したという。複数の国の政治家による公の発言につながったことを示す証拠があるとして、OpenAIは拡散度尺度（Breakout Scale）でカテゴリー5と評価した。阻止した工作がカテゴリー5に達したのは、報告を開始して以来初めてだ。

　イラン発の工作は「偽りの署名」と名付けられた。長文記事や編集者向けの売り込み文面の推敲、ソーシャルメディアのコメント生成などにChatGPTを使っていた。7人の架空の「ジャーナリスト」名義で世界各地の中小オンラインメディアに記事掲載を売り込み、十数のメディアで100本近い記事が公開または転載されたことを確認したという。

　評価は活動ごとに分かれた。記事の掲載は複数のメディアに広がったとしてカテゴリー4、コメントの大量投稿は反応が乏しく、広く拡散した形跡がほとんどないとしてカテゴリー2とした。両事例の情報は関係当局と共有した。

　AI企業による悪用事例の公表では、米Anthropicも2026年9月に脅威インテリジェンス報告書を公開している。