• 会員限定
  • 2015/11/17 掲載

人工知能は人類を「破滅」に導くのか? ガートナーが語る「マイナスの」影響力

  • icon-mail
  • icon-print
  • icon-hatena
  • icon-line
  • icon-close-snsbtns
記事をお気に入りリストに登録することができます。
IoTでモノがスマート化し、人工知能(AI)を搭載したスマート・ロボットが登場しはじめ、「プログラム可能な経済」が進展している。一方で、半導体の演算性能が指数関数的に向上し、マシンの知能がある一定のレベルを超えて進化と学習を遂げることにより、ある日、アルゴリズムが暴走し、社会にマイナスの影響をもたらす可能性が懸念されている。ガートナー リサーチ バイスプレジデント 兼 最上級アナリストのジェイミー・ポプキン氏が、テクノロジーの「破壊的影響力」がもたらす可能性について語るとともに、「プログラム可能な経済」の新しいテクノロジースタックを図示した。
photo
テクノロジーには「破壊的影響力」をもたらす可能性がある

「目に見えない」アルゴリズムがすでに多くの影響を与えている

関連記事
 我々の日常生活の中には、さまざまなアルゴリズムが「見えざる手」として存在している。Gartner Symposium/ITxpo 2015に登壇したジェイミー・ポプキン氏は、Facebookの例を挙げる。ニュースフィード・アルゴリズムがユーザーの気分に影響を与えるというのだ。

「コーネル大学の2年前の調査で、Facebookのタイムラインにネガティブなニュースがハイライト表示されるグループと、ポジティブなニュースが表示されるグループに分けて、接したニュースが我々の気分にどんな影響を与えるかを調べたところ、ポジティブなグループは、ポジティブな情報を、ネガティブなグループはネガティブな情報をアップする傾向があることが分かった。ここで重要なことは、ニュースフィードに流れる情報のうち、そのユーザーにとって何をハイライト表示するかというのはFacebookのアルゴリズムが決めているということだ」

 また、グーグルの検索アルゴリズムは選挙結果に影響を及ぼす。キーワード検索で良いニュースが上位表示される候補者と、悪いニュースが上位に表示される候補者とでは、支持率に差が出るという研究結果もある。このように「目に見えない」アルゴリズムが、我々の気分や行動など、さまざまなものに影響を与えることが明らかになっている。

 さらに、システムが「暴走」したように見える怖い事例もある。2012年8月の米株式市場で起きた、証券仲介企業のナイトキャピタル社による誤発注事件だ。

「同社の高速自動取引システムのアルゴリズムが暴走し、誤った取引注文を繰り返した結果、45分間でなんと4億4千万ドル(約340億円)の損失をもたらし、これがきっかけで会社は倒産した。しかし、この事件を詳しく見ると、システムが誤発注をした原因はヒューマンエラーにある。システムを支える8台のサーバを更新する際、オペレーターが7台にしか更新を適用しなかったのだ。さらに、異常に気づいたオペレーターが、更新済みの7台をロールバックするというミスが重なり、結果的にシステムが暴走してしまった」

 こうした問題は、「高度化したアルゴリズム」が人間の制御を超える何かを勝手にしたわけではなく、「人」が介在している。昨今、大きく報じられたVWの排ガス不正操作の問題も、システムを不正に操作してテストをすり抜けるように「設定」したのは人間(VWの担当者)であり、「アルゴリズムが自分で悪事を働いたわけではない」(ポプキン氏)のだ。

学習するシステム、最終的には「学習方法」を学ぶようになる

 さまざまなシステムやデバイスにAI技術が組み込まれている。こうしたAIアルゴリズムは指数関数的に進化、成長を続け、ある日、システムの能力が我々の能力を超え、制御できなくなることが懸念される。

「ムーアの法則により、半導体の演算性能は、いずれ全人類の脳を合算したようなレベルに達するだろう。また、ディープ・ラーニングにより、システムは自らデータを取り込んで、よりスマートになる。また、クラウド内のビッグデータやIoTなどの複数の要素、要因が組み合わさったときに、アルゴリズムは、我々のコントロール外に進んでしまうかもしれない。複雑に見える振る舞いも、もとをたどればシンプルな構造から成り立っていることに、我々はもっと思いを至らせるべきだ」

画像
指数関数的な成長は、ある日、突然起こる。特に複数の要因が組み合わさったときにはさらなる変化がもたらされる

 グーグルは、「ディープニューラルネットワーク(DNN)」というアルゴリズムを開発し、YouTube上にアップされた猫の動画のサムネイルを大量に分析し、身体的特徴などから猫の実体を認識、学習し、この動画は猫のものであると同定できるシステムを開発した。これによると、74%の精度で猫を認識することが可能だという。

「DNNを構築するために、1万6000のGPUと10億の相互接続数が必要なことを考えると、教師なしでシステムが学習するというのは、技術的に可能だが、一般的な普及はまだ遠いと考えられる。しかし、AIの進化、応用領域の拡大については、我々も心構えが必要だ」

【次ページ】「プログラム可能な経済」では「ダークサイド」を理解することが重要

関連タグ

関連コンテンツ

あなたの投稿

    PR

    PR

    PR

処理に失敗しました

人気のタグ

投稿したコメントを
削除しますか?

あなたの投稿コメント編集

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

通報

このコメントについて、
問題の詳細をお知らせください。

ビジネス+ITルール違反についてはこちらをご覧ください。

通報

報告が完了しました

コメントを投稿することにより自身の基本情報
本メディアサイトに公開されます

必要な会員情報が不足しています。

必要な会員情報をすべてご登録いただくまでは、以下のサービスがご利用いただけません。

  • 記事閲覧数の制限なし

  • [お気に入り]ボタンでの記事取り置き

  • タグフォロー

  • おすすめコンテンツの表示

詳細情報を入力して
会員限定機能を使いこなしましょう!

詳細はこちら 詳細情報の入力へ進む
報告が完了しました

」さんのブロックを解除しますか?

ブロックを解除するとお互いにフォローすることができるようになります。

ブロック

さんはあなたをフォローしたりあなたのコメントにいいねできなくなります。また、さんからの通知は表示されなくなります。

さんをブロックしますか?

ブロック

ブロックが完了しました

ブロック解除

ブロック解除が完了しました

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

ユーザーをフォローすることにより自身の基本情報
お相手に公開されます