【AIの予言者】Anthropic CEOが記した、AIによる人類終末の黙示録とは？

2027年までに強力なAIによる「天才たちの国」が現れる

ダリオ・アモデイ氏は「テクノロジーの思春期」という比喩を用いて、現代社会が極めて不安定で危険な移行期に入ったと論じている。これから指数関数的なAIの進化によって、2026年から2027年までに、人類の知性を凌駕する「強力なAI」が現れると予言している。

アモデイ氏が「AGI（汎用人工知能）」という曖昧な言葉ではなく「強力なAI」と表現したのは、AIが持つ知性や進化のスピードが、今までの人類の文明を、遥かに凌駕しており、それによって社会に破壊的な影響をもたらすためだ。


彼の問題意識の中心にあるのは、今後数年以内に、極めて少数の人間や組織が、国家規模の影響力を持つAIを事実上独占する可能性だ。アモデイ氏はこれを、強力なAIによって知性と生産性が極端に集中した「天才の国」の出現として表現している。

この「国」は地理的な国家ではなく、強力なAIシステムを運用・制御できる能力を持つ主体の集合体を指す。そこでは、数十人規模の研究者やエンジニアが、従来であれば国家や巨大産業が担っていた研究開発、軍事、経済戦略、科学的発見を代替できるようになる。

アモデイ氏は、AIが研究・設計・戦略立案を自己加速的に改善する段階に入ることで、こうした状況が2027年前後に現実味を帯びると指摘する。

問題は、その力が社会制度や民主的統制の成熟速度を大きく上回る点にある。人類は、核兵器やインターネットといった過去の破壊的技術に対しても、制御と規範の確立に数十年を要した。

ところが強力なAIは、わずか数年単位で質的な飛躍を遂げており、政治・法制度・国際協調が追いつかないまま、未成年者のような「力だけを持った存在」として社会に放り出される危険がある、というのがアモデイの基本的な認識である。

【次ページ】AIの脅威に対する人類の防衛戦略とは？