記事をお気に入りリストに登録することができます。
いま最も期待を集めるテクノロジーといえば生成AIだろう。だが、その可能性を手放しで喜んでいるわけにもいかない。その良い一例が、サイバー攻撃の1つである「ディスインフォメーション（悪意を持って広められる偽情報）」への悪用だ。社会全体における情報の信頼性や安全性を損なわせる可能性が高いため、各国で早急な対策を進めている。そこで今回、情報セキュリティの最前線に詳しい明治大学 公共政策大学院 ガバナンス研究科 専任教授の湯淺 墾道氏に、各国における規制動向や日本の課題について語ってもらった。
生成AIで「フェイク情報」攻撃が活発化
内閣サイバーセキュリティセンター（NISC）サブワーキンググループ委員や日本サイバー犯罪対策センター（JC3）理事などを歴任してきた、明治大学 公共政策大学院 ガバナンス研究科 専任教授の湯淺 墾道氏は、「各国はサイバーセキュリティの主要な課題の1つとして、特定の個人を狙って世論誘導や選挙介入をするサイバー攻撃（ディスインフォメーション）への対策を挙げています」と指摘する。
その中でも特に警戒されるのが、個人の「ナラティブ（物語）」にアプローチする「ナラティブ攻撃」だ。この攻撃は、フェイク情報によって受け手の認知をゆがませた上で、本人が「自分の意見だ」と主張している、と思い込ませるのが特徴だ。この攻撃が、リアルな画像や動画をつくれる生成AIによって、今後さらに活発化していくと見られている。
こうした状況を背景に、各国は、AIの開発と学習データの取り扱いに関する規制を、急速に強めつつある。その一方で、日本は自由なAI開発や利用を基本的に認める方向にあり、「Data Free Flow with Trust（DFFT：信頼性のある自由なデータ流通）」を提唱している。
デジタル社会の信頼と安心である「トラスト」を確実に守りながら、AIの利活用を進展させていくには、何が必要なのだろうか。湯淺氏に各国の動向、および日本の対応を聞きつつ、我が国が直面する課題について考えていこう。
その中でも特に警戒されるのが、個人の「ナラティブ（物語）」にアプローチする「ナラティブ攻撃」だ。この攻撃は、フェイク情報によって受け手の認知をゆがませた上で、本人が「自分の意見だ」と主張している、と思い込ませるのが特徴だ。この攻撃が、リアルな画像や動画をつくれる生成AIによって、今後さらに活発化していくと見られている。
こうした状況を背景に、各国は、AIの開発と学習データの取り扱いに関する規制を、急速に強めつつある。その一方で、日本は自由なAI開発や利用を基本的に認める方向にあり、「Data Free Flow with Trust（DFFT：信頼性のある自由なデータ流通）」を提唱している。
デジタル社会の信頼と安心である「トラスト」を確実に守りながら、AIの利活用を進展させていくには、何が必要なのだろうか。湯淺氏に各国の動向、および日本の対応を聞きつつ、我が国が直面する課題について考えていこう。
この記事の続き ＞＞
-
・「中国」はAI規制強化、「米国」は生成AIを政治利用
・「EU」が促す自主規制は“日本と近い姿勢”
・「日本」が認めた“能動的”サイバー防御の中身
・防げない「ウソ」情報…日本が議論すべき課題とは
今すぐビジネス＋IT会員にご登録ください。
すべて無料！ビジネスやITに役立つメリット満載！
-
ここでしか見られない
1万本超のオリジナル記事が無料で閲覧可能
-
多角的にニュース理解
各界の専門家がコメンテーターとして活躍中！
-
スグ役立つ会員特典
資料、デモ動画などを無料で閲覧可能！セミナーにご招待
-
レコメンド機能
あなたに合わせた記事表示！メールマガジンで新着通知
関連タグ
