中国、AI「脅威論」を批判…アモデイ氏らのAI減速要請めぐり「悪性競争」に警戒

　14日の中国外務省の定例記者会見では、ロイター記者が、アモデイ氏、米オープンAIのサム・アルトマンCEO、イーロン・マスク氏らが最先端AIの開発速度を落とすよう呼びかけ、アモデイ氏が中国のAI優位を米国の国家安全保障上のリスクとみていることについて見解を求めた。


　中国外務省は、AIの発展は「全人類の共同の福祉」に関わるとした上で、「中国を脅威とする言説を広め、対立や悪性競争を行う」ことは世界的なAIガバナンスを妨げ、どの側の利益にもならないとの立場を示した。

　アモデイ氏は12日に公表した提言で、AIが次世代AIの開発を加速させる「再帰的自己改善」が進み、能力向上の速度に安全対策が追いつかなくなる恐れがあると説明。「AIモデルの能力を改善するペースを落とさなければならない」と訴えた。

　ただし、同氏が提唱する「ペーシング」は、モデルの訓練や技術進歩そのものを止めることではない。安全対策やアライメントを進め、第3者がその実施状況を確認できるだけの時間を確保する考え方だ。具体策として、第3者評価者への継続的な内部アクセスの付与、民主主義国のAI企業間での協調、世界規模での協調という3段階を挙げた。

　一方、この構想はAI安全策だけでは完結しない。アモデイ氏は中国への高性能AIチップや半導体製造装置の販売を避けるほか、チップ密輸や中国国外のデータセンターへの遠隔アクセス、無許可のモデル蒸留を取り締まることも提案した。AI企業のセキュリティ強化も求めている。

　こうした対策を徹底すれば、今後3～5年で中国側の進展を遅らせ、米国のリードを広げられるとの見方も示した。つまり、米国側の開発を一律に止めるのではなく、対中優位を維持しながら安全対策に使える時間を確保する構想である。

　減速を求める動きは、アモデイ氏だけにとどまらない。米テッククランチの報道によるとアルトマン氏も「フロンティア」の開発速度を調整する必要性に同意し、アンソロピックが表明した第三者評価の仕組みにオープンAIも追随する考えを見せた。マスク氏もアモデイ氏の主張に賛意を示しているという。