開閉ボタン
ユーザーメニュー
ユーザーメニューコンテンツ
ログイン

  • 会員限定
  • 2015/11/17

人工知能は人類を「破滅」に導くのか? ガートナーが語る「マイナスの」影響力

IoTでモノがスマート化し、人工知能(AI)を搭載したスマート・ロボットが登場しはじめ、「プログラム可能な経済」が進展している。一方で、半導体の演算性能が指数関数的に向上し、マシンの知能がある一定のレベルを超えて進化と学習を遂げることにより、ある日、アルゴリズムが暴走し、社会にマイナスの影響をもたらす可能性が懸念されている。ガートナー リサーチ バイスプレジデント 兼 最上級アナリストのジェイミー・ポプキン氏が、テクノロジーの「破壊的影響力」がもたらす可能性について語るとともに、「プログラム可能な経済」の新しいテクノロジースタックを図示した。

photo
テクノロジーには「破壊的影響力」をもたらす可能性がある

「目に見えない」アルゴリズムがすでに多くの影響を与えている

関連記事
 我々の日常生活の中には、さまざまなアルゴリズムが「見えざる手」として存在している。Gartner Symposium/ITxpo 2015に登壇したジェイミー・ポプキン氏は、Facebookの例を挙げる。ニュースフィード・アルゴリズムがユーザーの気分に影響を与えるというのだ。

「コーネル大学の2年前の調査で、Facebookのタイムラインにネガティブなニュースがハイライト表示されるグループと、ポジティブなニュースが表示されるグループに分けて、接したニュースが我々の気分にどんな影響を与えるかを調べたところ、ポジティブなグループは、ポジティブな情報を、ネガティブなグループはネガティブな情報をアップする傾向があることが分かった。ここで重要なことは、ニュースフィードに流れる情報のうち、そのユーザーにとって何をハイライト表示するかというのはFacebookのアルゴリズムが決めているということだ」

 また、グーグルの検索アルゴリズムは選挙結果に影響を及ぼす。キーワード検索で良いニュースが上位表示される候補者と、悪いニュースが上位に表示される候補者とでは、支持率に差が出るという研究結果もある。このように「目に見えない」アルゴリズムが、我々の気分や行動など、さまざまなものに影響を与えることが明らかになっている。

 さらに、システムが「暴走」したように見える怖い事例もある。2012年8月の米株式市場で起きた、証券仲介企業のナイトキャピタル社による誤発注事件だ。

「同社の高速自動取引システムのアルゴリズムが暴走し、誤った取引注文を繰り返した結果、45分間でなんと4億4千万ドル(約340億円)の損失をもたらし、これがきっかけで会社は倒産した。しかし、この事件を詳しく見ると、システムが誤発注をした原因はヒューマンエラーにある。システムを支える8台のサーバを更新する際、オペレーターが7台にしか更新を適用しなかったのだ。さらに、異常に気づいたオペレーターが、更新済みの7台をロールバックするというミスが重なり、結果的にシステムが暴走してしまった」

 こうした問題は、「高度化したアルゴリズム」が人間の制御を超える何かを勝手にしたわけではなく、「人」が介在している。昨今、大きく報じられたVWの排ガス不正操作の問題も、システムを不正に操作してテストをすり抜けるように「設定」したのは人間(VWの担当者)であり、「アルゴリズムが自分で悪事を働いたわけではない」(ポプキン氏)のだ。

学習するシステム、最終的には「学習方法」を学ぶようになる

 さまざまなシステムやデバイスにAI技術が組み込まれている。こうしたAIアルゴリズムは指数関数的に進化、成長を続け、ある日、システムの能力が我々の能力を超え、制御できなくなることが懸念される。

「ムーアの法則により、半導体の演算性能は、いずれ全人類の脳を合算したようなレベルに達するだろう。また、ディープ・ラーニングにより、システムは自らデータを取り込んで、よりスマートになる。また、クラウド内のビッグデータやIoTなどの複数の要素、要因が組み合わさったときに、アルゴリズムは、我々のコントロール外に進んでしまうかもしれない。複雑に見える振る舞いも、もとをたどればシンプルな構造から成り立っていることに、我々はもっと思いを至らせるべきだ」

画像
指数関数的な成長は、ある日、突然起こる。特に複数の要因が組み合わさったときにはさらなる変化がもたらされる

 グーグルは、「ディープニューラルネットワーク(DNN)」というアルゴリズムを開発し、YouTube上にアップされた猫の動画のサムネイルを大量に分析し、身体的特徴などから猫の実体を認識、学習し、この動画は猫のものであると同定できるシステムを開発した。これによると、74%の精度で猫を認識することが可能だという。

「DNNを構築するために、1万6000のGPUと10億の相互接続数が必要なことを考えると、教師なしでシステムが学習するというのは、技術的に可能だが、一般的な普及はまだ遠いと考えられる。しかし、AIの進化、応用領域の拡大については、我々も心構えが必要だ」

【次ページ】「プログラム可能な経済」では「ダークサイド」を理解することが重要

イノベーション ジャンルのセミナー

イノベーション ジャンルのトピックス

イノベーション ジャンルのIT導入支援情報

PR

ビジネス+IT 会員登録で、会員限定コンテンツやメルマガを購読可能、スペシャルセミナーにもご招待!