元OpenAIの研究者が提言「人類滅亡回避のため2040年までASI開発延期を」

元OpenAI開発者が提言「ASI開発を2040年まで延期を」

　人工知能（AI）の開発競争が世界規模で激化する中、人間を超える人工超知能（ASI）の誕生時期とその影響に関心が高まっている。こうした状況下で、OpenAIのガバナンス部門に所属していた元研究員のダニエル・ココタイロらが設立した非営利研究機関「AI Futures Project」は、新たな未来シナリオ「AI 2040: Plan A」を公開した。

　この提言は、無秩序な開発競争がもたらす人類の破滅や、一部の国家や企業への極端な権力集中を回避することを目的としている。単なる技術的な予測にとどまらず、米国と中国が主導して国際的な協調体制を構築し、人工超知能の誕生を意図的に2040年まで延期させるという具体的な政策ロードマップである。


　同機関は2025年4月に前作となるシナリオ予測「AI 2027」を発表していた。当時の予測では、AIが自律的に自らのプログラムを改良する再帰的自己改善（RSI）の実現により、早ければ2027年にも超知能が誕生すると警鐘を鳴らしていた。その結果として、人間によるAI制御の喪失や、ASI開発に成功した国家や組織への権力集中が起き、人類に破滅的な結末をもたらすと予測していた。今回の「AI 2040」へのアップデートでは、米中の開発競争が過熱した状態で、AIの再帰的自己改善サイクルが加速することにより、超知能に到達する年を「2027年」から「2030年」に修正している。

　その上で、無秩序な開発競争を回避し、米中協調の元ASI開発を延期する「Plan A」を新たに提言した。「AI 2040」の中で制限なくASIの開発競争を続けた場合、ASIが人類の制御不能に陥ったり、ASIをコントロールする国家や企業が絶対的な権力を握る「ディストピア」に陥るリスクが極めて高いと指摘し、その回避が最大の目的であるとしている。

　この「Plan A」において提唱されているASIの開発延期策は、主に4つの具体的なガバナンス戦略から構成されている。第1の戦略は、AI計算資源の厳格な検証と段階的なスケーリングの適用である。この戦略では、米中両国が相互の善意や信頼に頼るのではなく、AIインフラ・半導体のサプライチェーンを完全に管理し、各国のデータセンターに検証用のデバイスを設置して相互に監視を行う。

　これにより、2035年まではAIの能力水準を「人間の専門家」レベルに制限し、その期間にAIの安全対策技術である「AIアライメント」を確立させるための一時停止期間を設ける。第2の戦略は、完全なAI研究・開発の透明性の確保である。AI開発におけるアルゴリズムや研究成果をすべてオープンソースとして一般公開することを義務付け、特定の企業や国家が画期的なブレイクスルーを秘密裏に独占できない環境を強制的に作り出す。

　第3の戦略は、冷戦時代の核抑止論を応用した「相互確証コンピューティング破壊（MACD）」と呼ばれる独自の抑止体制である。この体制では、米国の主要なデータセンターをモンゴルに、中国のデータセンターをカナダにといったように、地政学的に防衛が困難な第三国や相手国の影響圏内に意図的に建設する。もしどちらか一方が協定を破って秘密裏に開発を進めた場合、その計算資源が覇権のために利用される前に、遠隔操作などで自爆あるいは機能を完全に破壊できる体制を敷くことで、単独で覇権を握ろうとする動機そのものを根底から排除する。

　第4の戦略は、経済成長の急激な変化を抑制するための経済制御である。AIやロボットの生産能力に対して厳格な上限を設け、その生産枠や利用許可をオークション形式で販売することにより、社会や市場が許容できない速度での技術的・経済的変化を人為的に抑え込むという提言である。