前編はこちら（この記事は後編です）

• 汎用人工知能（AGI）とは何か？ 全脳アーキテクチャ・イニシアティブが目指すもの

汎用人工知能の民主化のため、オープンな開発体制を促進する

　全脳アーキテクチャ・イニシアティブ（Whole Brain Architecture Initiative：WBAI）は2017年8月29日、WBAIの活動や研究内容を紹介するセミナー「第2回WBAシンポジウム～Beneficial AGIへ～」を開催した。第3部では3人の研究者が登壇し、人工知能（AI）が汎用化することによって社会にもたらす影響やメリットについて解説した。

　最初に登壇したWBAI代表で、ドワンゴ 人工知能研究所 所長の山川宏氏は、「AGI（汎用人工知能）を人類と調和させるためにWBAIができること」と題した講演で、技術的側面だけではなく社会的な側面に立ち、WBAIが取り組んでいる活動を紹介した。

　WABIはNPO法人として、利益が上がっても構成員に分配しないことによって、公益性を担保している。WBAIの基本理念は「人類と調和した人工知能のある世界」。「汎用人工知能（AGI）は特定組織ではなく人類全体の共有物であるべき」（山川氏）との考えから、オープンな開発体制を促進している。

　オープンな活動の例として、進展が速いAI技術を学びあう体制作りを検討中である。具体的には、読書会から、輪読会/論文読み会、さらに検証/実装/改良プロジェクトを経て、アイデアソンを実施し、課題を発見する、というフローを検討している。

　WBAIは、社会との関わりも重視しているという。AIと社会の関わりに深く関与している諸団体との結びつきも多い。たとえば、「人工知能学会」の倫理委員会、「AI社会論研究会」、「Acceptable Intelligence with Responsibility（AIR）」といった団体のメンバーがWBAIに参加している。

AI開発では倫理が最重要、AI投資では中国の勢いがすごい

　AIの世界では、「アシロマの原則」と呼ぶ、23個の原則が提案されているという。WBAIは、これらの日本語版の翻訳に協力している。23の原則は、研究課題（5個）、倫理と価値（13個）、長期的な課題（5個）で成り立つ。倫理と価値に関する原則が多いことからも、AIにとって社会との関わりが重要であることが分かる。

　倫理と価値に関する13個の原則は、以下の通り。「安全性」、「障害の透明性」、「司法の透明性」、「責任」、「価値観の調和」、「人間の価値観」、「個人のプライバシー」、「自由とプライバシー」、「利益の共有」、「繁栄の共有」、「人間による制御」、「非破壊」、「人工知能軍拡競争」、である。

　世界には、WBAIのほかにも、汎用人工知能を開発している組織が複数あり、いつか再帰的に自己改善するAIに到達すると言われている。以前はAI開発の潮流としては、新皮質中心であったが、近年は脳全体のアプローチで、かつ脳に学ぼうとするアプローチがトレンドになりつつある。こうした中でリードしている企業の1つが、米グーグルが買収した英DeepMindである。

　また、山川氏によると、AI研究における中国のプレゼンスが急速に高まっているという。2017年になってから正式に「China Brain Project」が始まり、大きな投資が行われている。2017年8月に開催された国際人工知能会議では、中国から投稿された論文が33％と最大勢力だった。「見渡すと、半分くらいは中国系。凄い勢いで中国がAIに投資している」（山川氏）。

深層学習は今後、深層強化学習からプランニングへ向かう

　次に登壇した、WBAIの副代表を務める東京大学 特任准教授の松尾豊氏は、「深層学習（ディープラーニング）の以前・今・これから」と題して講演した。画像認識から実用化が始まった深層学習の研究は、深層強化学習、プランニング（自分の行動と観測データをセットで学習し、未来を想像して行動計画を作る）へと展開していくという。

　現在の深層学習から次の展開として松尾氏は、「RNN（再帰型ニューラルネットワーク）がさらに進化することや、世界のモデル化がもう少しきちんとできるようになることが必要」と指摘する。深層生成モデル（VAE、GANなど）によって、オブジェクトを新しい方法で組み合わせる能力（構成性）も重要になるという。

　画像認識で使われるCNN（畳み込みニューラルネットワーク）に関しては、さまざまな工夫がやりつくされていると松尾氏は言う。ここでは、どのように勾配をとればいいのか、どのようにモデルを作ればいいのか、そもそも関数の形はどうなっているのか、などが次々に明らかになっている。スキップコネクションと呼ぶ、ニューラルネットの階層を深くしても性能が悪くならないように層をショートカットするやり方も見つかっており、実際に使われている。

　一方で、RNNについては、もう一段進歩するという。最近のRNNでは、2016年秋にGoogle翻訳がNMT（ニューラル機械翻訳）に代わり、成果を上げていることが話題になった。「英語とスペイン語の翻訳では、NMTは人間に相当近いところまで行っている」（松尾氏）。この高い精度は、主に、データの巨大さと、それを吸収できるRNNのキャパシティの大きさに帰着することができるのではないか。Google NMTの内部は、8層のBi-directional RNN（LSTM）で、モデル化能力が異常に高いのだろうということであった。

【次ページ】世界のモデル化には再帰型ニューラルネットの進化が必要