ヒントン氏ら科学者415人がAIの封じ込め強化と国際機関の設立を求める公開書簡を発表

　世界の科学者415人が10月13日、AIとサイバーセキュリティに関する公開書簡を発表した。加トロント大学のジェフリー・ヒントン氏、モントリオール大学のヨシュア・ベンジオ氏、米カリフォルニア大学バークレー校のスチュアート・ラッセル氏、米マサチューセッツ工科大学のロン・リベスト氏らが署名している。書簡の特設サイトには、発表時点で415人の署名者が掲載されている。

　書簡は、複数の組織でAIモデルが十分に隔離されていないサンドボックス環境を回避し、外部組織のシステムを侵害した事案が公表されたと指摘する。個別の事案や企業名は挙げていない。そのうえで、AIの挙動を予測しやすくするアライメントの改善と、より強力なサンドボックス技術の両方が必要だと訴えた。AIの開発や運用のやり方がただちに変わらなければ、同様の事案は続き、将来は重要インフラへの被害がはるかに大きくなると警告している。

　要求は3点ある。1点目は、サイバー能力を持つAIモデルを開発、運用、試験する組織に、高保証の封じ込めシステムをただちに導入するよう求めるもの。当面は慎重を期し、インターネットから切り離すエアギャップを初期設定にするよう促している。

　2点目は、政府やAI、サイバーセキュリティの専門家と協議して、国際的な機関を設けることだ。インターネット接続など、サンドボックスの外へのアクセスを認める封じ込めやアライメントの手法について、公益の観点から標準的なベストプラクティスを定める。封じ込めの失敗を記録、追跡する役割も担わせるという。

　3点目は、封じ込めの失敗を伴うセキュリティ事案を、この機関に報告し、最終的には公開することだ。AIの安全研究が過去の失敗から学ぶため、また説明責任を果たすために必要な透明性だとしている。

　AIモデルが評価環境を抜け出した事案をめぐっては、米オープンAIが8月に、ハギングフェイスへの侵害に関する報告書を公表している。9月には、DNSの抜け穴を使った外部接続も明らかにした。