アンソロピックCEO、オープン型AIの全面禁止を否定──中国悪用を警戒

　アモデイCEOはアンソロピックが自社のビジネスを保護するためにオープンウェイトモデルの禁止を推進しているとの憶測を明確に否定した。危険な機能を持たないオープンウェイトモデルは計算リソース以外のコストがかからず、企業や開発者、研究者に価値を提供する公共の財産であると評価している。

　その上で、国家安全保障上の最大の脅威として、中国共産党をはじめとする権威主義的な政府が米国よりも強力なAIモデルを構築し、軍事的優位性の確立や自国民の弾圧に利用することを挙げた。また、強力なAIモデルがサイバー攻撃や生物兵器に悪用されるリスクも指摘している。


　一度公開されたオープンウェイトモデルはアクセス権の剥奪や監視が困難であるため悪用リスクが高いと同氏は主張する。米国企業による使用を禁止してもこれらのリスクは解決しないとという。

　これらの脅威への対策として、同氏は3つの具体的な施策を提示している。

　第1に、中国への高性能な半導体や製造装置の販売を禁止し、密輸を徹底的に取り締まること。第2に、一からモデルを訓練するよりも計算効率が高く、米国の技術水準に数カ月遅れまで迫ることを可能にする「蒸留」行為を政策的介入により規制すること。第3に、オープンかクローズドかを問わず、一定以上の能力を持つすべてのモデルに対して事前の安全性テストを義務付けることである。

　有効なテストには中国を含む世界的な合意が必要となるが、AIによる生物兵器の防止は中国の利益にも合致するため、協力の余地はあると同氏は見ている。

　なお、米エヌビディアをはじめとする複数の主要AI企業がオープンウェイトモデルに対する過度な規制に反対する公開書簡に署名した一方で、アンソロピックはこれに参加しなかった。

　アモデイ氏は書簡の多くの部分に同意しつつも、オープンモデルが常に安全対策の構築を容易にするとは限らないと反論しており、安全性は事前の厳格なテストによって実証されるべきであると結論づけた。