会員（無料）になると、いいね！でマイページに保存できます。

情報研の研究者が警鐘の「無視できない」生成AIリスク、なぜ「RAGは危険」と言えるのか

日進月歩の勢いで進化を続け、今やビジネスにおいても無視できない存在になりつつある生成AI。その利便性や可能性が注目される一方で、生成AIにまつわるリスクも懸念されている。生成AI活用の効果を最大限引き出すために、知っておくべき「深刻リスク」とは何か。国立情報学研究所の佐藤一郎氏が詳しく解説する。

DeepSeek騒動で浮き彫り「生成AIリスク」とは

　生成AIは、業務効率化や生産性向上など大きなメリットをもたらす技術として注目されているが、その一方でセキュリティリスクも懸念されている。2025年1月に発生した「DeepSeek騒動」は、生成AIの利用における情報管理の重要性を改めて浮き彫りにした出来事だ。

　DeepSeek騒動とは、中国のAI企業DeepSeekが生成AI「R1」を発表したことで生じた国内外の騒動のことを指す。

　DeepSeekは、わずか半年・約560万ドル（約8億円）という低コストかつ短期間で大規模モデルの開発に成功したと発表。これにより、従来のAI開発において不可欠とされていたNVIDIA製の高性能GPUへの依存が薄れる可能性が浮上し、NVIDIAをはじめとするAI関連株が一時的に大幅に下落した。つまり「生成AIの構築コストが急速に下がるのではないか」という不安が、AI業界全体や投資家の間に広がったのだ。

　この出来事について「DeepSeekが開発したAIモデルは、強化学習を多様化することで“教師あり学習”の必要性を最小限に抑えています。この手法自体は以前から知られていましたが、ここまで大規模に実行された事例はほとんどなく、非常に斬新だと感じました」と話すのは国立情報学研究所で教授を務める佐藤一郎氏だ。

　佐藤氏によると、この件を受け、個人情報保護委員会は2025年2月にDeepSeekの利用に関する注意情報を公表したという。主な内容は下記の2点だ。

DeepSeekを利用すると、ユーザーの入力情報（ユーザー名・メールアドレス・生年月日）や、アカウント設定・利用時の端末情報（PCのメーカーや型番、OS・ブラウザのバージョン、IPアドレスなど）、入力したプロンプト、生成された出力内容などが、中国国内のサーバに転送される可能性がある

これらのデータは中国国内の法律に基づいて取り扱われる

「生成AIに入力した情報がどこに保存され、どう利用されるのかは、提供事業者の判断に委ねられています。ユーザー側でその実態を制御するのは非常に難しいのが現状です」（佐藤氏）

　現在、生成AIに関してはさまざまなセキュリティリスクが懸念されているが、佐藤氏によれば「まだあまり知られていないが、実は深刻なセキュリティリスク」も存在するという。

　ではその深刻なリスクとは具体的にどんなリスクなのだろうか。以下で佐藤氏が詳しく解説する。

この記事の続き＞＞

・生成AIにまつわる「リスク3要素」

・「RAGが危ない」と言えるワケ

・警戒すべき「2つの攻撃」とは

この続きは
会員限定（完全無料）です

ここから先は「ビジネス+IT」会員に登録された方のみ、ご覧いただけます。

今すぐ登録(無料)

今すぐビジネス＋IT会員に
ご登録ください。

すべて無料！今日から使える、
仕事に役立つ情報満載！

ここでしか見られない

2万本超のオリジナル記事・動画・資料が見放題！
完全無料

登録料・月額料なし、完全無料で使い放題！
トレンドを聞いて学ぶ

年間1000本超の厳選セミナーに参加し放題！
興味関心のみ厳選

トピック（タグ）をフォローして自動収集！

完全無料　
ビジネス+IT会員のメリットとは？

提供企業一覧

株式会社CYLLENGE（旧社名プロット）
、 Splunk Services Japan合同会社
、ゾーホージャパン株式会社
、デジタルアーツ株式会社
、 Okta Japan株式会社
、ニュートン・コンサルティング株式会社

関連タグタグをフォローすると最新情報が表示されます

情報研の研究者が警鐘の「無視できない」生成AIリスク、なぜ「RAGは危険」と言えるのか

DeepSeek騒動で浮き彫り「生成AIリスク」とは

・生成AIにまつわる「リスク3要素」

・「RAGが危ない」と言えるワケ

・警戒すべき「2つの攻撃」とは

関連コンテンツ

人気のタグ