開閉ボタン
ユーザーメニュー
ユーザーメニューコンテンツ
ログイン

  • 会員限定
  • 2019/01/08

人工知能は“道具”、それでも「弱い人間は支配される」理由

一橋 楠木教授×松田雄馬氏 対談

70年ほど前、情報処理に携わる研究者の中で取り組みが始まった「人工知能」は数度の「ブーム」を経て、一般のユーザーにも認識され、今や毎日メディアで見かけるようになった。研究者や開発者以外の人々が、あらゆる場面において人工知能に期待している。その一方で、人工知能が過度に進化することに対する警戒感も高まっている。人工知能への期待と脅威について、一橋大学大学院の楠木建氏と『人工知能はなぜ椅子に座れないのか』を執筆した松田雄馬氏が語った。

photo
著書「人工知能はなぜ椅子に座れないのか」で、AIの進化における限界を示した松田雄馬氏と、AIなどの最新技術への「過度の期待感」を懸念してきた楠木建氏のイベントが「神楽坂ラカグ」で開催された
(写真:©︎新潮社写真部)

人工知能の歴史

人工知能はなぜ椅子に座れないのか: 情報化社会における「知」と「生命」 (新潮選書)
松田雄馬氏の最新著作
 人工知能に対しする期待や不安が高まるにつれ、多種多様な認識や解釈であふれかえっている。ここで「世間に流れている人工知能に対する認識と解釈はすべて正しいのだろうか」という疑問が湧いてくる。

 人工知能に期待するにしても警戒するにしても、「的確な認識と解釈」なしでは、誤った方向に進んでしまう。

 これまで何度かあった人工知能ブームがブームで終わってしまった理由の1つに、そういう「誤った方向の期待と警戒」があっただろう。

 「人工知能の正しい認識」をするために、楠木氏と松田氏が問題提起をしたのは、人工知能という言葉そのものだ。

強いAIは論理的にあり得ない

photo
一橋大学大学院
国際企業戦略研究科(ICS)
教授
楠木建氏
(写真:©︎新潮社写真部)
 楠木氏は、現在数多くある人工知能に関する記事や書籍に対し、その多くで重要なことを見落としていると警告する。

 楠木氏が考える「重要なこと」とは、人工知能は「知能」という言葉が使われているという点だ。

「松田さんも指摘していますが、人工知能は知能に人工という形容詞がついたものです。知能の正しい定義なしに、延々と続いている現在の人工知能の議論は“空回り”だと感じています」(楠木氏)

 松田氏も、人工知能とは何か、という議論が未熟なまま、未来を語るのは危うい、という認識を示した。

「(危ういというより)知能が何かというところをすっ飛ばしているので、ストレートにいうと“面白くない”ですよね」(松田氏)

 “人工知能の議論における空回り”について楠木氏は、開発経緯と無関係に騒ぎ立てる傾向がよくないという。

 たとえば、それは過去の雑誌に掲載された(楠木氏によると、7年前から10年前の雑誌が特に興味深いという)「(まったく現実と合致していない)掲載当時の最新技術に関する議論」を現在読み返すと明らかとのこと。

 インターネットにしてもPCにしても当時予想していた事象はその多くで実現していないことに注目し、「人間はいい方でも悪い方でも過剰に考える」と断ずる。

 それを受けて松田氏も、2017年の夏ごろから変わってきた人工知能に関する論調を取り上げた。

 それは「どんなことにも人工知能が活用できる」という空虚な未来予想図から、「実際に導入したフィードバックを得て意外と使えないという失望感」や「人工知能の導入以上にそれを使う現場のフィードバックを得ることがより重要」という意見が増えている実例だった。

photo
合同会社アイキュベータ
代表
松田雄馬氏
(写真:©︎新潮社写真部)

 そのような人工知能に対する期待感の変化を確認した上で、楠木氏は、松田氏の著書でも重要な論点となっている(哲学者ジョン・サールが作った用語)「強いAI(=人工知能)と弱いAI」ついて対談を進めていった。

 松田氏の著書で紹介するこの2種類のAIは技術者や開発者ではなく哲学者が提唱した概念で、松田氏は強いAIを「精神を宿し自ら動き出す」、弱いAIを「人間の意思決定を支援する道具」と表現する。

 その説明を受けて楠木氏は、強いAIが登場する可能性について「意図、目的、自己認識、精神の有無、という条件でいうと、論理的に強いAIはあり得ない」という見解を示した。松田氏も強いAIが「あり得ない」ことを指摘している。

 それは、「プログラムで成り立つAIには自己認識ができない」とする考えからだ。人間はある行動をする自分を外部から俯瞰するように客観的に認識できる(これが自己認識)が、プログラムにはそれができない、と松田氏は説明する。

「オーストラリアで実用化したごみ収集ロボットは時折失敗し、ごみくずを撒き散らすこともあります。しかし、ロボット自身はその行動を『失敗した』と認識しない。人間は失敗を認識して修正できます。ここに超えられない壁があるのです」(松田氏)

関連記事
 さらに楠木氏は、論理的に強いAIは存在しないという論点から「人間を支配するAI」についても否定的な意見を展開する。「AIを人間に近づけたいという科学者や技術者の“本能的欲求”は理解するが、それとは別に」とした上で、これまで登場した道具としての技術はすべて特定用途において人間を凌駕する能力を持っていると指摘した。

 人工知能であっても、たとえば囲碁が人間より強いのに過ぎず、その意味で、人間より速く走れる新幹線や人間には切断できない固いものを切断できるノコギリと同じだと述べる。

「確かに人工知能は知的活動という新しい領域で人間を凌駕しました。しかし、それもこれまでの道具と同じことをしているだけなのでは」(楠木氏)

 人工知能は道具に過ぎないと考える楠木氏にとって、弱いAIの進化は人間を強くしてくれる。そして、人工知能が進化して仮に意思を持ったとしても、それに従うのは弱い人間ではないかという考えを示した。その実例として挙げたのがamazon.comのレコメンド機能だ。

「知識が十分にあって自分でも判断できる人間にとってamazon.comが示すレコメンドの結果は決して適切な内容だけではない不完全なものと思います。一方、それを適切と感じ、過度に翻弄される人間もいるでしょう。『弱いAIほど強い人間に役立ち、弱い人間はAIに支配される』と言えるのでは」(楠木氏)

【次ページ】人工知能を知ることは人間を知ること

お勧め記事

AI・人工知能・機械学習 ジャンルのセミナー

AI・人工知能・機械学習 ジャンルのトピックス

AI・人工知能・機械学習 ジャンルのIT導入支援情報

PR

ビジネス+IT 会員登録で、会員限定コンテンツやメルマガを購読可能、スペシャルセミナーにもご招待!