AI開発を止めずに“暴走だけ”止められるか？人類が直面する「最大級の難問」(3/3)

AI規制で最後に残る“最大の難問”

　しかし、これで解決というわけではない。さらに難しい問題が現れる。それは、「非常に高性能になったAIに対して、人間が技術的優位を保てるのか」という問題だ。

　現在の安全対策は、「人間がAIよりもシステム全体をよく理解し、AIにどこまでの権限を与えるかを決められる」ことを前提としている。しかし、AIが人間を大きく上回る能力を持つようになれば、人間が作った防壁の弱点をAIが容易に発見する可能性が出てくる。

　ここにAI規制の本当の難しさがある。

　そして、これは自動車にはない問題だ。自動車の場合には、交通規則を作る人間の知的能力は高く、規則に従う機械の知的能力は低い（あるいは、ない）。しかし、AIでは、規制される側の能力が高まり続けるのだ。

人類より賢いAIを制御し続けられるのか

　まとめれば、つぎのようになる。

　まず、AIの能力と、AIに許される行動とを分けて考える必要がある。高性能AIは、通信網や銀行口座などを自由に操作することができる。しかし、それらを実際に許すかどうかは別問題だ。AIエージェントの行動権限を厳しく制限することは、当面の有力な安全策となるだろう。

　しかし、これで問題が完全に解決されるわけではない。AIをどう規制するかという問題を突き詰めると、「人間が自分より高度な知的能力を持つ可能性があるAIを、本当に制御し続けられるのか？」という問題に行き着く。現時点では、その答えは分からない。

　しかし、だからといって、AIの開発や利用を全面的に禁止することも現実的ではない。AIはすでに企業活動、科学研究、医療、行政など広い分野に入り込み、その便益が極めて大きいからだ。つまり人類は、AIを使わずに済ませることも難しく、かといって完全に制御できる保証もない。

　人類は、「AI技術の発展を止めずに、その技術を制御しつづけられる仕組みをどう作るか？」という、極めて困難な問題に直面しているのだ。