「AIネットワーク化」がもたらすインパクト

──デジタル化の進展により、この10年間で情報と通信を取り巻く環境は大きく変わりました。

福田氏：この10年間に見られた特に顕著な変化は、「スマートフォンの普及」と「AIの分野の発展」でしょう。

　スマートフォンについては、2008年の時点ではその緒に就いて間もない段階にありました。今日ではスマートフォンが広く普及し、これを通じてさまざまな機能やサービスを使えるようになっています。

　AIについては、10年前の時点では主に「研究開発の対象」であったものが、今日では「研究開発の対象」であると同時に「利活用の対象」にもなってきています。

　その背景には、スマートフォン、インターネット、ブロードバンドなど情報通信ネットワークおよびこれを利用するサービスが普及し、さらに高度化が進展してきたことにより、AIの研究開発や利活用に必要なデータが大量に流通する情報通信環境が整備されてきたことが挙げられます。

　大量に流通するデータを円滑に利活用できるようになったことに伴い、AIは、その研究開発が加速度的に進展し、社会のさまざまな分野においてその実装が進みつつあります。

　さらに、今後IoT（Internet of Things）の形成が進展し、「モノ」からデータを収集してネットワーク上を流通させ、さらにそのデータを用いてIoTデバイスを操作できる環境が整備されていくことに伴い、AIの利活用は一層進展していくと見られております。

──「AIネットワーク化」について教えてください。

福田氏：AIは、外界からデータを入力し、外界に出力することをその共通の性質とするものです。AIを実装するシステム（以下「AIシステム」）の多くは、そのデータの入力元または出力先を得るため、インターネットなどと接続され、ほかのシステムと連携させて利活用されるようになるものと見られています。

　また、先ほど述べたように、AIの研究開発および利活用は、情報通信環境の変容（情報通信ネットワークの発展、流通するデータの増大など）と同時並行的に、相互に連動して進展しています。

　このため、AIの研究開発及び利活用の在り方は、情報通信環境の在り方と独立して検討し得るものではないのです。

　したがって、AIをめぐる諸課題は、単にAIだけの問題として捉えて検討するのでは不十分です。

　AIの研究開発や利活用の進展、さらにこれらを取り巻く情報通信環境の変容という、相互に関連する事象の総体を包括的に捉え、これに立脚して検討する必要があります。

　その検討にあたり、立脚すべき事象の総体を捉えるための枠組みとして整理された概念が「AIネットワーク化」です。

「AIネットワーク化」とは、

1. AIシステム
2. 当該AIシステムと接続される情報通信ネットワーク
3. 当該情報通信ネットワークを介して当該AIシステムと連携させて利活用されるシステム

の3要素から構成されるネットワークである「AIネットワーク」の形成および高度化が進展し、社会のさまざまな分野において広く利活用されるようになっていく事象をいいます。

──つまり、AIが情報通信ネットワークに接続され、ほかのシステムと連携して用いられることが「AIネットワーク化」ということでしょうか。

福田氏：はい。個々のAIシステムが情報通信ネットワークに接続され、または情報通信ネットワークに接続される既存のシステムにAIが実装されて、AIネットワークが形成され、高度化していくとともに、その利活用が拡がっていくにつれて、将来的には、AIシステム同士が情報通信ネットワークを介して相互に連携させて利活用されるようになっていくものと見られています。

　また、ナノテクノロジー、VR（仮想現実）・AR（拡張現実）の技術などの進展と相まって、AIネットワークと人体の器官との連携も展望されています。

　AIネットワーク化が進展すると、AIネットワークの個々の利用者が個別に享受する便益を通じて社会にさまざまな恵沢が広くもたらされ得るものと見られています。

　このため、AIの便益を増進し、恵沢を豊かなものとするための関係者の取り組みの在り方が課題となります。

　同時に、AIネットワークの技術的特徴や、研究開発または利活用の方法などに関連し、個人、個人の集団または社会にさまざまな不測の不利益がもたらされるリスクとして、たとえば次のようなものが指摘されています。

1. 入出力の不透明化
2. 制御の困難化
3. サイバー攻撃などによるセキュリティの低下
4. AIネットワークの利活用にあたり用いた自らのパーソナルデータの管理の困難化
5. 人の意思の不透明な操作

　これらリスクの顕在化または波及に伴う個人、集団または社会の不利益を抑制するための関係者の取り組みの在り方も課題となります。

　さらに、大規模な汎用的プラットフォームなど少数のAIネットワークへの利用者やデータの集中による競争の減殺、技術的失業の発生など、AIネットワーク化の進展に伴いもたらされる恵沢の副作用としての負のインパクトの抑制も課題となります。

　また、これまでAIネットワーク化の進展を念頭に置くことなく形成されてきた法システムなど社会の仕組みをAIネットワーク化の進展を踏まえて見直していくことも課題となります。

　これら諸課題を検討するに当たっては、究極的にはAIネットワーク化が進展する社会を持続可能なものとすることを念頭に置きつつ、次の3つの目標を考える必要があります。

AIネットワーク化をめぐる諸課題は「人」

──3つの目標とは何でしょうか。

　第一にAIネットワーク化の進展により社会にもたらされる恵沢を豊かなものとすること、第二にAIネットワーク化の進展がリスク、負のインパクトなどを理由として忌避されることなく広く社会に受容されるようにすること、第三に社会におけるその構成員の「包摂」をAIネットワーク化の進展状況に応じて確保することの三点です。

　これら3つの目標については、相互の調和を図ることが重要になろうと考えられます。

　AIネットワーク化が進展するにつれて、従来は人がその知能や身体を用いて行ってきたさまざまな行為においてAIネットワークが利活用されるようになります。その結果、人が当該行為に直接介在しなくなることが増えていくものと見込まれます。

　そのような状況に至っても、AIネットワークをめぐる次のような行為は、AIシステムの開発者、AIネットワークの利用者など、「人」が実行するものです。

1. AIシステムの学習データの選択
2. AIシステムの機能または仕様の決定
3. AIシステムの研究開発
4. AIネットワークの構成要素とするシステムおよび情報通信ネットワークの選択
5. AIネットワークの形成に関する判断
6. AIネットワークに入出力させるデータの選択
7. AIネットワークの用途の判断
8. AIネットワークの出力に依拠する範囲および条件の決定
9. AIネットワークの機能を他人に提供するサービス（AIネットワークサービス）の提供条件の決定

　これらの行為について、機械任せとする部分がある場合でも、その範囲や条件の決定、当該機械の選択などは「人」の行為です。このように、AIネットワーク化をめぐる諸課題は、「人」の行為の在り方をめぐる課題なのです。

　また、AIネットワーク化の進展に携わるさまざまな「人材」の育成や、AIネットワーク化が進展していく社会の構成員としての「人」が維持し、共有しておくべき技能、知見、価値観など「人」そのものの在り方も、AIシステムの研究開発やAIネットワークの形成・利活用という「人」の行為の在り方と関連する課題として問われることとなります。

「AIネットワーク化」が重要になる理由

──AIネットワーク化が重要になる理由を教えてください。

福田氏：第一に、先ほど述べたように、AIシステムの多くが、スタンドアロンのままで利活用されるにとどまらないことです。

　AIネットワークの構成要素として利活用されるようになるものと見られていることに加え、AIの研究開発および利活用の在り方が情報通信環境の在り方と独立して検討し得るものではないことが挙げられます。

　第二に、AIネットワーク化が進展するにつれて、人の「社会」そのものが変容していくことが挙げられます。「社会」とは、人と人の間の結合関係ないし当該結合関係におけるコミュニケーションの総体から構成されるものであります。

　AIネットワーク化が進展し、AIネットワークが広く利活用されるようになっていくと、AIネットワークの両端においてこれを利活用する人と人の結合関係および両者の間におけるコミュニケーションが変容していきます。

　これら人と人の結合関係ないし両者の間におけるコミュニケーションの変容は、経済や産業が立脚する基盤である「社会」そのものの変容を意味します。

　このため、AIネットワーク化をめぐる諸課題は、単に経済や産業の問題として検討し、または経済や産業の道具としての科学技術の問題として検討しておけば足りるようなものではないのです。

　人と人の結合関係ないしそこでのコミュニケーションの総体から構成される「社会」そのものの変容をめぐる課題、すなわち、これまでインターネットなどの普及および発展に伴い形成されてきた「高度情報通信ネットワーク社会」の次に形成される社会の在り方をめぐる課題として検討することが必要となります。

　AIをめぐる諸課題を単にAIだけの問題として捉えているうちは、AIネットワーク化の進展に伴う「社会」の変容をめぐる課題を適切に捉えがたいものと見受けられます。

　第三に、AIネットワーク化をめぐる諸課題については国際的な検討が必要となることが挙げられます。スタンドアロンのAIシステムを利活用することによりもたらされる便益およびリスクは、その利活用される地点または利用者が移動する地点の周辺にとどまるものであり、即座に広く波及するものではありません。

　このため、その諸課題は、各国において、国内の問題として検討されればよいのです。

　他方、AIネットワークを利活用することによりもたらされる便益およびリスクは、インターネットなどを介して、時には国境を越えて即座に波及し得るものであります。

　このため、その諸課題は、各国において国内の問題として検討されても、実効的な解決策が得られないおそれがあります。したがって、国際的な検討が必要となるのです。

【次ページ】法律はイノベーションの“敵”ではない