AIに「正しい価値判断」できるのか

　冒頭、モデレータを務めたケンブリッジ大学The Centre for the Study of Existential RiskでエグゼクティブディレクターのSeán Ó hÉigeartaigh氏は、「今後の世紀で人間にとって最大の危機は何か、それはAIによってもたらされるのだろうか」と問題提起した。


　グーグルディープマインド・FLI共同創設者であるViktoriya Krakovna氏は、AIの開発が進展するにともない増大するリスクとして、「長期的な安全性が確保されていないこと」を挙げた。

　AIにおける安全性とは何か。Krakovna氏はギリシア神話の「ミダス王の伝説」を例に話を進める。ミダス王は、触るものをすべてを金に変える特殊な力を手に入れる。これは素晴らしい能力にも思えるが、反面、食べ物や飲み物なども金に変わってしまっては暮らしていけない。つまり、どんなに素晴らしい能力であっても「望むものは金に、望まないものは金にならないように」制御できなければ意味がないのだ。それどころか、うかつに周囲のモノに触れてしまうと「食べ物がすべて金に変わってしまう」という大きなリスクを伴う。

　「AIの安全性も考えは同じだ」とKrakovna氏は指摘する。「AIには人間が望む通りに動いてもらわなくてはならない。そのためにはAIにも複雑な人の思考を理解させなくてはならない。ただし、それは非常に難しい」（Krakovna氏）

　たとえば、ロボットにA地点からB地点まで箱を持って行くように命じた場合は、自動で最短距離を選択する。しかし、その命令に「箱の中にある花瓶を壊さないように」や「途中で人とぶつからないように」といった制約を加えると、ロボットが自律して判断することは難しいという。

　 Krakovna氏は「長期的に見ると『AIに誰の価値観を付加すればよいのか』が明確にされてはいない。どのような価値観が正しく、それをどうAIに取り入れるかは未解決だ。このポイントが今後の問題になる」と指摘した。

“すべての仕事はAI社会”でAIが停止したら…

　続いて登壇した東京大学情報基盤センター教授の中川 裕志氏は、「人間の仕事をAIがどこまで奪うのか考えたい」と問題提起した。


　あらゆる産業にAIが導入された場合、人間が行う仕事が奪われると懸念する声は以前から挙がっている。では、どのような仕事が「AIに奪われない人間の仕事」となるのか。

　中川氏は「小さな細かい仕事はどうか」と示した。この場合の「小さい」「細かい」とは、サービスを利用する人が少ない仕事という意味だ。そうした仕事であれば、AI導入のコストが割高となり、人間の仕事として残る可能性があるという考えである。しかし、中川氏は「これも時間の経過とともにAI導入のコストも下がり、いずれは取って代わられる」と指摘した。

「『AIの開発こそが人の仕事』であるとの指摘がある。しかし、2045年ごろには（AIが人間の知能を超えることで起こる）シンギュラリティが到来する。また、AIが生み出した数々の成果を『人間に説明する仕事』が人間の仕事として生き残るという意見もある。だが、AIに関連したテクノロジーは複雑なので、何が起こっているかを人間が理解することは不可能になってしまう。普通の人が理解できるように説明することもほぼ不可能だ。これも人間の仕事ではなくなる」（中川氏）


　多くの仕事が奪われてしまうのであれば、「ベーシックインカム（最低賃金保証）制度」を導入し、人間が働かなくても生活できるようにすべきとの議論も登場してきた。しかし、この考え方について中川氏は「（ベーシックインカム制度導入でも）人間が幸福になれるとはいい難い」と指摘する。

「確かにAIが支配する世界は生産性も高く、多くの人がベーシックインカムだけで暮らせるようになるかもしれない。しかし、それでは人間のやる気が起きない。結局、人は幸福にはなれないだろう。十分に時間があるのだから趣味などに時間を費やせば充実した人生になるという考えもあるが、趣味にはお金が必要。どのようにお金を稼ぐのか。それには仕事が必要だが、仕事はAIが担っている」（中川氏）

　AIによって人間の仕事が奪われるリスクを論じたが、本当のリスクは「人間の仕事がなくなること」ではなく、「AIが働くことをやめること」だと中川氏は指摘する。さまざまな仕事のプロセスに人間が介入しなくなった社会で、突然AIが働くことをやめた場合、人間がAIと同じように仕事をこなし、社会を維持できるのか。

　進化し続けるAIが社会の隅々にまで浸透し、人間の仕事の大部分をAIが肩代わりする時代。利便性は向上し、安全で暮らしやすい社会となる一方で、「突然、すべてのAIが故障し動かなくなったら、人類はすぐにAIなしで働いていた時代」に戻れるのだろうか。中川氏は「（あらゆる仕事をAIが担う先には）働くという機能を失ってしまってしまった人類がいるのではないか」と指摘した。

【次ページ】 「グーグルで『grandma』と検索しても『白人のおばあちゃん』しか出ない」──AIに“食わせる”データの「バイアス」をどうする？