開閉ボタン
ユーザーメニュー
ユーザーメニューコンテンツ
ログイン

  • 会員限定
  • 2018/10/11

「完全自動運転」を実現する条件、人工知能に倫理が必要な理由

人工知能の進化とともに語られる、人工知能への期待と不安。その一つが、人工知能の正義と倫理の問題だ。哲学者・岡本裕一朗氏は「人工知能」へ哲学分野から疑問を呈する。自動運転の実現化で直面するのが、事故の責任問題だが、自動運転は、通行人ではなく「運転者」を守るよう設計されている。ここでは、有名な思考実験「トロッコ問題」を通して、乗員と通行人のどちらを救うべきか?という答えのない問題から考察する。

岡本裕一朗

岡本裕一朗

玉川大学 文学部 哲学専門。1954年、福岡に生まれる。九州大学 大学院 文学研究科修了。博士(文学)。九州大学 文学部助手を経て、現職。西洋の近現代思想を専門とするが、興味関心は幅広い。WIRED日本版のWIRED Business Bootcamp 2017「哲学講座」の講師を務めたり、「Innovative City Forum 2017――人工知能時代のアートの役割」と題したセッションに登壇するなど、<哲学>と<テクノロジー>の領域横断的な研究をしている。 著書に、人工知能や遺伝子工学など現代社会のさまざまな問題に対し、世界の哲学者たちの思考をまとめあげた『いま世界の哲学者が考えていること』(ダイヤモンド社)の他、『フランス現代思想史―構造主義からデリダ以後へ』(中公 新書)、『思考実験―世界と哲学をつなぐ75問』(ちくま新書)、『12歳からの現代 思想』(ちくま新書)、『モノ・サピエンス―物質化・単一化していく人類』(光文社新書)などがある。

photo
自動運転の実現により人為的なミスは減るだろうが、想定していない事故にはどのように備えればいいのだろうか
(© Dmitriy – Fotolia)


自動運転車が抱えた大問題

photo
人工知能に哲学を教えたら

画像をクリックするとアマゾンに移動します
 「完全自動運転」の車が市場に登場する日が近づいているといいます。そのため、テクノロジー面だけでなく、法的・社会的な整備が世界的にも急務となっています。欧米では「自動運転車の倫理的問題」が活発に議論されているのを、ご存じでしょうか。

 「トロッコ問題」と呼ばれた倫理的な議論が、自動運転車の場面であらためて浮上しているのです。「トロッコ問題が解決されなければ、自動運転車はデビューできない」と力説する人もいるほどです。

 そのような将来のテクノロジーの行く末を左右するほどの「トロッコ問題」とはどのようなものか。簡単に確認しておきましょう。  

 もともと議論のスタートは、イギリスの哲学者であるフィリッパ・フットが、1967年に妊娠中絶問題を考えるために着想した、思考実験の一つです。そして、このアイデアをより洗練させて、問題を一般化したのが、アメリカの哲学者ジュディス・トムソンでした。彼女によって「トロッコ問題」と命名され、その後、論争となる事例が提起されたのです。すでに一般にも紹介されていますが、後の議論のために見ておきましょう。

画像
 自動運転のレベル

(レベル1)運転支援(自動ブレーキなど)、(レベル2)部分運転自動化(衝突回避など)、(レベル3)条件付き運転自動化(システムが主体人が運転をサポート)

(レベル4)高度運転自動化(限定エリア内で運転手が不要に)、(レベル5)完全運転自動化(どこでも自動走行可能に)

内閣府が公表する自動運転システムの市場化・サービス実現期待時期

5人と1人、どちらを救う?「トロッコ問題」

(A)たまたま路面電車の傍を散歩していた人が、ブレーキのきかなくなった電車に遭遇した。その電車の前方には、5人の作業員がいてこのままでは轢かれてしまう。そのとき、散歩中の人の近くには進路を変えるスイッチがあり、それを引くと電車は右に曲がる。ところが、右の線路の先には1人の作業員がいるので、右に曲がると1人を轢いてしまう。
(B)陸橋の上にいた人が、電車を見ていると、ブレーキがきかなくなっているのがわかった。その先には、5人の作業員がいて、このままでは彼らを轢いてしまう。そのとき、陸橋には、太った人が傍にいて線路を見ている。その人を線路に突き落とせば、電車が止まりそうである。このとき、5人の作業員を救うために、1人の太った人を突き落としてもよいか?
(“Rights, Restitution, and Risk”参照)



 ここで議論のポイントは、「1人を救うか5人を救うか」ではありません。

 「1人を救うか5人を救うか」という問い自体は変わらないにもかかわらず、AとBとで選ぶ答えが変わる、というところにあります。実際アンケートをしてみると、Aの場合には「1人を犠牲にする」と答えても、Bの場合には「1人を犠牲にしない」と答えるようです。

 この対立はしばしば、「功利主義」と「義務論」の対立として説明されています。 一方の功利主義は、何よりも結果を重視(帰結主義)して、全体の利益と損失とを計算し、その総量から行為を選択します。5人の命と1人の命を比較すれば、当然5人の命を優先することになります。

 もう一方の義務論では、結果がどうであれ、人を「殺す」という行為自体をすべきではない(義務に反する)と考えるのです。さらには、5人の人を救うために、その手段として1人の人を殺すことは許されない、と主張します。

乗員と通行人、救うべきはどっち?「トンネル問題」

関連記事
 では、「トロッコ問題」のいったいどこが、問題なのでしょうか。

 たとえば、功利主義的に考え、AもBも「5人の命と1人の命の比較」とみなせば、いずれも「5人の命」を優先するでしょう。そう考えると、陸橋の上の太った男を突き落とすことさえ選択すべきではないでしょうか。ところが、それは通常の倫理観と対立するのです。

 それに対して、義務論的に考えると、陸橋の上の太った男だけでなく、スイッチの場合にも「1人の男」を優先しなくてはなりません。太った人をあえて突き落とすべきではないと同じように、スイッチをあえて引いて線路の1人を殺すべきではないわけです。大きな被害が出るとわかっていても、それに介入できないのです。

 だからといって、Aの場合には功利主義的に考え、Bの場合には義務論的に考えるというように、ご都合主義的に立場を変えるのは問題の解決になりません。とすれば、すべての場合に妥当するような倫理はあるのか。これが「トロッコ問題」の基本的な問いです。

 「トロッコ問題」そのものに決定的な解決策が出てないうちに、それを「自動運転車」に応用したら、どうなってしまうでしょうか。ここまでの議論と対応させるため、「トンネル問題」と呼ばれている状況を考えてみましょう。

【次ページ】自動運転車の「トンネル問題」とは?

お勧め記事

AI・人工知能・機械学習 ジャンルのトピックス

AI・人工知能・機械学習 ジャンルのIT導入支援情報

PR

ビジネス+IT 会員登録で、会員限定コンテンツやメルマガを購読可能、スペシャルセミナーにもご招待!