診断現場から見た生成AI活用のセキュリティリスク
― 典型的なRAGシステムの構成に潜む課題とは ―
講演内容
生成AIの業務活用が進む中、社内文書やナレッジを検索・参照して回答を生成するRAGシステムの普及も進んでいます。一方で、権限管理の不備による情報漏洩や、参照文書を悪用したプロンプトインジェクションなど、従来のWebシステムとは異なるリスクも顕在化しています。本講演では、典型的なRAGシステムの構成を題材に、どこにどのようなセキュリティリスクが潜むのかを診断の視点から整理し、生成AIを安全に業務活用するためのポイントを解説します。
登壇者
エムオーテックス株式会社
サイバーセキュリティ本部 アセスメント2部 ペンテスト課 アソシエイト
内藤 猛 氏
Profile
入社後、Webアプリケーションの脆弱性診断やペネトレーションテストに従事。近年は生成AIの安全な活用に向けて、セキュリティ評価手法の調査・研究に取り組んでいる。