汎用人工知能の実現には「内発的な動機」に基づく行動の解明が必要

　人工知能をさらに発展させ、汎用人工知能（AGI）を実現するには、物理的な身体性やある種の「意識」の解明は必要なのだろうか。このほど「人工知能と社会」をテーマに都内で開催された「AI and Society Symposium」では、人間の脳、とりわけ認知の特性をテーマに「次世代AI」に関するパネルディスカッションが行われ、AI研究の最前線にいる3人のパネリストが登壇した。

　モデレータを務めたGeorge Musser（ジョージ・マッサー）氏は『Scientific American』誌の上級編集者を14年間務めた米国の科学ジャーナリストだ。

　パネリストの1人目は、アラヤ創業者で代表取締役の金井 良太氏だ。金井氏は意識の神経基盤についての研究活動を経て、アラヤを起業。情報科学と神経科学の融合による「人工意識」の開発により汎用人工知能の実現に取り組む「意識」に関する第一人者である。

　2人目は、東京大学 次世代知能科学研究センター センター長で、同大学院 情報理工学系研究科 教授の國吉 康夫氏。身体性に基づく認知の創発と発達、ヒューマノイド全身行動の「コツ」や「着眼点」といった人間型AIの研究などに従事する権威だ。

　そして、3人目は、GoodAI（グッドエーアイ）創業者であり、CEO、CTOでもあるMarek Rosa（マレック・ローサ）氏だ。チェコのプラハに本拠を置くGoodAIを2014年に創業し、20人の研究者および技術者からなる国際チームで汎用人工知能の開発に取り組んでいる。人間の学習プロセスをAIでどうとらえるかを専門にしている。

　マッサー氏はまず、パネリストに「今、最も重要な解決すべき問題は何か？」と問うた。

　金井氏は「私は意識に関心を持っているが、その点からすると、現在の人工知能（AI）開発は目的がないように思う」と語る。その理由として金井氏は「汎用人工知能（AGI）には自発的、自律的な考え方が不可欠。科学者は内在的なモチベーションにもとづく自発的な行動を、AIでどのように起こせるか解明しなければならないからです」とした。そして、人間の能力を超えたAIである「スーパーインテリジェンス」はまだ実現していないとも述べた。


　また、「なぜAIにモチベーションが必要か」という理由について、金井氏は以下のように解説した。

「特化型AIで1つのことが可能になったら、学習し適応する能力を備えたソフトウェアエージェント（エージェント）がさまざまなAIを組み合わせ、あらゆる目的に対して汎用的な解決策を提示できる可能性があります。そこで必要になるのが、異なる内発的なモデル、モチベーションを組み合わせる『メタレイヤー』だと考えます」（金井氏）

　もう1つの課題は「データ量」だ。ディープラーニングは膨大なデータを必要とするが、「人間はわずかな例から学ぶことができる」と金井氏。その鍵を握るのが「好奇心」だというのだ。

「人工的なエージェントが、特定の環境で限られたサンプルから効率的に学習できる、意味のあるデータを見出すことができるようになるには、情報理論的な"モチベーション"を持つことが重要で、それがAGIにつながるのです」（金井氏）

　一方、國吉氏は、「今のAIシステムは閉鎖的だ」と述べる。國吉氏のいう「閉鎖的」とは、データセットを提供する、あるいはゴールやタスクを特定することがシステムの制約になっているという意味だ。


「AGIに必要なシステムとは、解決策が処方されていない問題が解けるような、創発的な行動です。その意味で、システムは学習したら次のタスクが与えられるものではなく、連続的に発達、内発的にいつでも変わらなければなりません」（國吉氏）

　そして、ローサ氏も「内発的なモチベーションに基づく、状況に応じた行動を自動的に生成できるかどうかが鍵だ」と述べた。

「赤ちゃんが、これを『水のボトルだ』と理解するのは、そもそも世界を理解したいという願望があるからでしょうか？　私はもっと多くのものがあると思います」（ローサ氏）

　学習で必要とされているのは、「数少ない例から、全体像を捉えることができる」ことで、それには継続的な学習が必要だ。たとえば、人間の子どもは「男の人を見るとお父さんだと言う時期がある」とローサ氏。それは、男性か女性かを区別し、男性の中でも父親を特徴付ける要素、それ以外の特徴を学んで、区別することを学んでいく。「そのためには継続的な学習が必要だ」とローサ氏は指摘した。

汎用性獲得に有効な「グラジュアルラーニング」とは？

　議論のテーマは、「現在の研究テーマと課題」に移った。ローサ氏は、「GoodAIでは『グラジュアルラーニング』に取り組んでいる」と述べた。

「これは、新しいスキルを徐々に、継続的に学習していくこと。AGIは、あまりにもパラメータが多すぎて複雑化し、人間がすべてを理解して設定するのは不可能です。そこで、徐々に学んでいくグラジュアルラーニンングが必要なのです」（ローサ氏）

　グラジュアルラーニンングについてマッサー氏から問われた金井氏は、「AGIを作る上で非常に重要」だと述べた。

「人のインテリジェンスを見ると、既存の知識をリサイクルしていることに気づきます。ある程度一般化されたモデルがインプットされていれば、それを別のさまざまな目的に使うことができます。グラジュアルラーニングであれば、初期にエージェントが学習したモデルを見て、それが新しいコンテキストで使えるかを考える必要があります」（金井氏）

　そして、英語の名前が書かれたラベルの画像フォーマットを、テキスト形式のフォーマットへ変換するように、エージェントがさまざまなタイプのラベルを組み合わせ「意味のある変換」を可能にするには、メタレイヤーが必要だと金井氏は説明する。

　一方、AGIの追求にあたって、汎用性をどう実現するかを問われた國吉氏は「特定のインテリジェンスを組み合わせていけば、AGIになるというわけではない」と指摘した。その意味で、最初のタスクは「精度が低いものであっても、汎用的なタスクからスタートし、必要に応じて特化させるのが適切」だという。

「たとえば、ロボットの場合、見慣れない環境、地形、未経験の環境に置かれても瞬時に適応して、何らかの動きをします。それが二足歩行か、転がる動きなのかはわかりませんが、何らかの動きを生成するような汎用性は重要だと思います」（國吉氏）

　これに対してローサ氏は「今、どういうタスクをすれば汎用性につながるかを見極めるのが難しい」と述べた。

「常に新しいタスクを継続的に与え、トレーニングしたものだけが専門化しないよう汎用性を維持しながらAIを開発していくのが課題です。たとえば、ゲームをするエージェントの場合、ある特定のゲームだけでハイスコアを出せるのではなく、どんなゲームも対応可能になるよう、タスク実行を目的にしないことにうまく対応できれば、汎用性を獲得できるかもしれません」（ローサ氏）

【次ページ】 最先端を走る3人の今後の展望、抱負とは。システムに「道徳」をどう組み込む？「意識」はどう生まれる？