ディープラーニングとは

　「ディープラーニング」とは、人間の神経系を参考に作られた「ニューラルネットワーク」と呼ばれるアルゴリズムを使った機械学習アルゴリズムのことです。

　ニューラルネットワーク自体は、1950年代から形式ニューロンやパーセプトロンという形で話題になり第1次AIブームの立役者となりますが、1960年代後半には原理的な限界が指摘され、1970年代には終わった手法として一度は忘れ去られてしまいます。

　それでも一部の研究者たちは研究を続け、2000年代までにいくつかの重要な技術が考案されました。その中でも、ディープラーニングの登場に一役買ったのが「ニューラルネットワークの多層化」、「バックプロパゲーション（誤差逆伝播法）」、「オートエンコーダ」です。

　今回は、ニューラルネットワークの多層化と、バックプロパゲーションについて説明します。

「ニューラルネットワークの多層化」とは

　まず、ニューラルネットワークにおける重要な進化が「多層化（深層化）」です。人間の脳もそうですが、神経ネットワークは巨大で複雑な方が高度な思考を実現できます。ニューラルネットワークの層が増えることによって、扱える次元や軸が増えると考えると良いでしょう。

　たとえば、二次元の図形や直線の数値でしか物事を理解できなかったAIが三次元や曲線の数値も扱えるようになるというイメージです。これによって、研究初期の原理的な限界を超えることに成功し、新しいステップに進むことに成功しました。

　ただ、実を言うと「多層化すればニューラルネットワーク限界は超えられる」というのは最初から分かっていました。しかし、ニューラルネットワークの誕生当時はコンピュータの性能に限界があり、小規模なネットワークしか実現できなかったのです。そのため、多層化の可能性を検証するには、コンピュータの性能が向上する1980年代まで待たなければなりませんでした。

【次ページ】「バックプロパゲーション」とは