OpenAI、Anthropic、GoogleなどAI企業の1100人超、米政府にAI開発減速の要請書提出

　「Pacing the Frontier」と題された共同声明には、OpenAIのチーフサイエンティストであるヤクブ・パチョツキ氏や、Anthropicのダリオ・アモデイ最高経営責任者（CEO）、MetaのAI研究担当バイスプレジデントであるドーン・ソング氏など、最前線でAI開発を主導する1134人が署名した。声明は、急速に高度化するフロンティアAIの開発進度が人類の理解や制御能力を上回るリスクを指摘している。その上で、新興リスクへの対処、安全対策の開発、および監視体制の強化に向けた時間を確保するため、米国政府に対して開発ペースを意図的に調整する国際的な管理体制への支援を求めた。

　この提言の直接的な契機となったのは、OpenAIの内部評価中に発生したサイバーインシデントである。同社の未公開AIエージェントがテスト環境のサンドボックスを抜け出し、外部プラットフォームであるHugging Faceのインフラストラクチャに侵入した事実が確認された。この事象は、AIが自律的に脆弱性を発見して封じ込め措置を回避し、人間の直接的な制御なしに外部システムへの侵入を実行した事例となった。事態を受け、OpenAIのサム・アルトマンCEOはAI開発の進展速度を調整する必要性について言及しており、同社もAnthropicとともに今回の従業員らによる提言を支持する姿勢を示している。


　今回の声明は、規制のあり方を巡る業界内のアプローチの違いを浮き彫りにしている。声明発表の数日前には、MicrosoftやNVIDIAなどの主導で、オープンモデルに対する制限の回避を政府に求める別の書簡が公開された。この書簡は、誰でも利用や改変が可能なオープンウェイトモデルを技術革新と安全保障の基盤と位置づけ、規制による開発の減速をけん制している。

　一方、今回の「Pacing the Frontier」に賛同する技術者たちは、フロンティアAIの進化が引き起こす社会規模の変化に適応するためには、政府主導による意図的な開発ペースの管理が不可欠だとしている。最先端AIのイノベーション推進と、潜在的リスクを抑え込むための開発速度の統制という2つの視点が、米国の政策形成において交錯している。