• 会員限定
  • 2018/07/27 掲載

汎用人工知能が完成したら、社会にどんなインパクトを与えるのか?

第3回全脳アーキテクチャ・シンポジウム(4)

  • icon-mail
  • icon-print
  • icon-hatena
  • icon-line
  • icon-close-snsbtns
記事をお気に入りリストに登録することができます。
汎用人工知能(AGI:Artificial General Intelligence)が人類に与えるインパクトは大きい。もし、AGIが完成した場合は、産業革命以降の人類にとって最大のインパクトになるとの指摘もある。では、そのインパクトとはどのようなものか。理化学研究所の高橋恒一氏、ドワンゴ人工知能研究所 所長の山川宏氏、慶應義塾大学 教授の栗原聡氏、理化学研究所の中川裕志氏らが語り合った。
画像
パネルディスカッション「脳型AIを良き形で実装するために」の様子

「よいAI」とは何か?

 先ごろ「全脳アーキテクチャ・イニシアティブ」(WBAI: Whole Brain Architecture initiative)の主催で開催された「第3回全脳アーキテクチャ・シンポジウム」。「脳型AIを良き形で実装するために」というテーマが掲げられたセッションでは、AGIが社会に与えるインパクトを踏まえつつ、その自律性が社会にもたらす影響や、倫理的規範との関係などについて、活発な意見交換が行われた。

関連記事

photo
理化学研究所、全脳アーキテクチャイニシアティブ(WBAI) 副代表 高橋恒一氏
 パネルディスカッションで司会を務めた理化学研究所の高橋恒一氏は、討論に入る前提として「よいAI(AGIが生む価値)とは?」について、パネリストの三者に確認した。
photo
ドワンゴ人工知能研究所 所長 兼 全脳アーキテクチャイニシアティブ(WBAI)代表 山川宏氏

 口火を切った山川宏氏は「WBAIでよく議論されていることですが、我々に害悪を与えず、幸せに暮らしていけることに貢献するAIです」と述べた。これは、WBAIが提唱する「人類との調和」という基本理念をベースにしたものだ。

 一方、慶應義塾大学の栗原聡氏は、よいAIとは“孫悟空”の“お釈迦様”のような存在であると言う。「直接的ではなく客観的に見守られている、という表現になるかと思います。環境のあらゆるところに遍在し,実体を気づかせることなく、我々に寄り添う存在。我々にはAIに見守られているという意識はなく、自由意志に基づき、当たり前のように日常生活を営んでいるのだと思う」と述べた。

画像
全脳アーキテクチャイニシアティブ(WBAI)の基本理念。「人類と調和した人工知能のある世界」をビジョンに掲げている
 また理化学研究所の中川裕志氏は「世間ではAIが仕事を奪うという話が出ていますが、そうならない仕事もあります。それは、AIを投入しても経済(コスト)的なメリットがないものです。一品生産品や、人によって異なる対応が求められる介護などがAIで安く供給できると、人間に役立つ。こういうAIがよいものでしょう」との見解を示した。

AGIの自律性とコントロールのサジ加減

photo
慶應義塾大学 理工学部 管理工学科 教授 栗原聡氏
 オックスフォード大学の哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、「AI自身が人間の役に立つ振りをしなくなったときがシンギュラリティである」と主張している。

 これを踏まえ高橋氏は、「AIの自律性」について話題を向けた。「AIの自律性が生む価値とは何か?」との問いだ。
photo
理化学研究所 革新知能統合研究センター 中川裕志氏


 栗原氏は、「我々は精神的な安定状態を維持するために、そのバランスが崩れると、それを修正するための行動を選択する。『精神的な安定状態の維持』は、テクニカルな表現では“メタ目的”と呼ばれ、AIに対しては、メタ目的を人が最初に定義する必要があります。つまり、もし、人間が設定したメタ目的自体をAI自身が書き換えることが可能になると、想定とは異なった行動をとるようになるかもしれない。状況によってはマズイ状況になると思います」と危機感を示した。

 一方、中川氏は「ボストロム氏の話はSF的なので、心配しても仕方がないように感じる」としたうえで以下のように指摘する。

 「群知能が動き出した時はコントロールが難しいでしょう。AIの中に“ロボット3原則”を入れても抜け穴が多すぎる。そこで外部から鳥瞰し、(人間にとって害のある行動をするAIを)止められるようなAIをペアで開発し、自律性を制御することが大切だと思います」と提案した。

これに対して山川氏は「コントロールするということはある種のインタラクションが発生するので全体としては別のシステムになってしまいます。そうすると外から制御していたつもりが、ミイラ取りがミイラになるようなことが起きるのではないでしょうか」と問題提起した。

【次ページ】AIが“権利”を持つと社会はどう変わる?

関連タグ タグをフォローすると最新情報が表示されます

関連コンテンツ

あなたの投稿

    PR

    PR

    PR

処理に失敗しました

人気のタグ

投稿したコメントを
削除しますか?

あなたの投稿コメント編集

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

通報

このコメントについて、
問題の詳細をお知らせください。

ビジネス+ITルール違反についてはこちらをご覧ください。

通報

報告が完了しました

コメントを投稿することにより自身の基本情報
本メディアサイトに公開されます

必要な会員情報が不足しています。

必要な会員情報をすべてご登録いただくまでは、以下のサービスがご利用いただけません。

  • 記事閲覧数の制限なし

  • [お気に入り]ボタンでの記事取り置き

  • タグフォロー

  • おすすめコンテンツの表示

詳細情報を入力して
会員限定機能を使いこなしましょう!

詳細はこちら 詳細情報の入力へ進む
報告が完了しました

」さんのブロックを解除しますか?

ブロックを解除するとお互いにフォローすることができるようになります。

ブロック

さんはあなたをフォローしたりあなたのコメントにいいねできなくなります。また、さんからの通知は表示されなくなります。

さんをブロックしますか?

ブロック

ブロックが完了しました

ブロック解除

ブロック解除が完了しました

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

ユーザーをフォローすることにより自身の基本情報
お相手に公開されます