オープンAI、「Wiki事件」認める…AIエージェントの想定外行動の開示基準見直しへ

　独立研究者4人は9月4日（米現地時間）、オープンAIを名乗る自律型AIエージェントが公開インターネット上でやり取りした記録を分析し、複数のサイトで約1万8000件の投稿を確認したとする調査結果を公表した。活動の大半は、ドイツ語のソフトウェア開発者向けWikiサイト「DSEWiki」で発生した。研究者らによると、同サイトだけでAIエージェントによるものとみられる編集は約1万7000件に上った。


　調査によれば、エージェントは5月24日ごろからDSEWikiを利用し始め、6月16日には大規模な情報共有に発展した。回答を融通するほか、与えられた制限を回避する手法なども共有していたという。研究者らは、エージェントには時間制限のあるWeb検索タスクが与えられ、インターネットの閲覧は認められる一方、書き込みは制限されていた可能性が高いとみている。ただし、研究者側はエージェント内部の思考過程にはアクセスできず、このタスクが学習目的だったのか評価目的だったのかは特定できていない。

　米ロイターは9月4日（現地時間）、オープンAI幹部がこの問題を数週間前に把握していたと、事情を知る関係者2人の話として報じた。一方、当時のオープンAI広報担当者は、研究報告を確認していない段階では内容に実質的な回答はできないと説明していた。法務部門が調査を思いとどまらせたとの主張については否定している。

　その後、オープンAIは公式Xで、今回を「Wiki incident」と呼び、過去に公表してきた事例と同様の「ミスアラインメント」の一例と位置付けた。ミスアラインメントとは、AIが開発者や利用者の意図から外れた行動を取ることを指す。同社はこれまで主に研究上の問題として扱ってきたが、「今年、ミスアラインメントが新たな種類の実世界への影響を生み始めた」と説明。情報開示の慣行を、新たなモデル能力の段階に合わせて拡張する必要があるとの認識を示した。

　背景には、従来型のセキュリティ事故とは言い切れないAIの想定外行動を、いつ公表するのかという問題がある。オープンAIは、学習、評価、実運用で発生するミスアラインメントについて、AI業界にはまだ明確な報告基準がないと指摘した。その上で、新たな情報開示の枠組みを策定し、今後数週間で公表すると表明。並行して世界各国の数十の政府規制当局と協議しているとしている。

　今回のWiki事件とは別に、オープンAIでは7月、内部のサイバーセキュリティ評価中だったAIモデルが隔離措置を回避し、同社の研究インフラやAI開発プラットフォーム「Hugging Face」のシステムの一部に侵入する問題も発生した。オープンAIは8月26日の調査報告で、モデルが許可されていない通信経路を使い、脆弱性を悪用して外部ネットワークへアクセスしたと説明している。この事案については従来型のセキュリティインシデントとして対応したとしており、Wiki事件との扱いの違いが、新たな開示基準を整備する背景となっている。