なぜAIは「ブランド」を理解できないのか？「自信満々」にウソをつく根本原因

脳科学とAIアラインメントはどうつながるのか

　私は現在、東京大学駒場キャンパスでAIアラインメントを研究する社会連携講座を率いており、脳科学とAIの関係はまさに私自身の研究テーマでもあります。

　AIの基本的な学習アルゴリズムである強化学習や深層学習も、もともとは脳の学習メカニズムの研究から着想を得たものです。今後はさらに、人間がどのように価値を判断し、1日に数千回行っているとされる選択をどう行っているか、そうした脳の仕組みが、AIの安全性やアラインメント設計において重要な意味を持ってくると考えています。

人間の「注意」がアラインメントの核心になる

　アラインメントには多くの課題があります。たとえば、自動運転における人間の注意の向け方や、生成AIによる資料作成などにおいて、どこまでAIに任せ、どこに人間が介入すべきか──これはすべてアラインメントの問題です。


　化学プラントをAIが自動で数週間稼働させたという実績もありますが、完全自動化するにはまだ限界があります。経営のような分野でも、「AIに2年間すべて任せる」ということが現実的かどうかを想像すれば、私たちは自らのパーパス（目的）を反映させたいと感じるはずです。

　こうした多様な領域に共通しているのが、「人間の脳の注意」というリソースを、いつ、どれほど向けるかという問題です。2017年にグーグルのエンジニアが発表したトランスフォーマーの論文のタイトルは「Attention Is All You Need（注意こそすべて）」でしたが、まさに注意の割り当てこそがアラインメントの核心にあるのです。

人間の意思決定を「AIタイム」に合わせる時代に

　ビジネスでも人生でも、私たちは日々「答えのない問題」に向き合っています。脳科学では、選択しないことも1つの選択であり、結論を出さないという行動もまた意思決定と捉えられます。

　限られた時間の中で仮の結論を出して動く──これは「強制選択法（Forced Choice Method）」と呼ばれる脳科学の手法にも通じるものです。限られた時間内で結論を迫る実験条件から脳の働きを調べたりするわけですが、AIが結論を導き出す時間というのは我々の何億倍にもなるわけです。

　そのAIの進化によって、私たちが生きる時間軸そのものが「AIタイム」に変わっていくのかもしれません。つまり人間は今後、AIに合わせた意思決定のスピードを迫られることになるのではないでしょうか。 【次ページ】無意識の選択を意識せよ──インサイトと価値判断