会員限定
2026/03/11 掲載

なぜ「Copilot」から機密情報ダダ漏れ…？ガートナー流「AI特有の抜け穴対策」大解説

ありがとうございます！
いいね！した記事一覧をみる

会員（無料）になると、いいね！でマイページに保存できます。

IT戦略・IT投資・DX

|

タグをもっとみる

生成AI技術の急速な普及により、企業のセキュリティ環境は大きな変革期を迎えている。エージェント型AIやマルチモーダルAIなどの先進技術は業務効率を飛躍的に向上させる一方、プロンプトインジェクションやデータ漏洩などの新たな脅威も生み出しているのだ。こうした状況に対して、有効な対策はあるのか。ガートナーのピーター・ファーストブルック氏が、脅威に対抗するための「フレームワーク」と「先制的」なアプローチを解説する。

執筆：畑邊康浩

AI時代における「先手を打つ」セキュリティ戦略とは

（出典：ガートナー（2025年7月））

AI活用は「もう7割」まで来てる？

　ガートナーが2025年初頭に行った調査によると、すでに37％の組織が生成AIを導入済みであり、35％が今後1年以内に導入を予定している。つまり、2025年末までに約72％の組織が生成AIを活用することになる。

　セキュリティ分野でも、「コード解析」での利用が22％、「脆弱（ぜいじゃく）性の検知と修復」が21％、「ユーザーの挙動に関するアナリティクス」が20％と、実用化が進んでいる。

　「自然言語クエリ（NLQ）処理によるビジネス／セキュリティ成果物の分析」は現状で8％の利用率だが、複雑なSQL・KQLを専門知識なしに生成できるようになり、セキュリティ監視の効率が飛躍的に向上している。

【画像付き記事全文はこちら】

生成AIはセキュリティ領域にもイノベーションをもたらしつつある

（出典：ガートナー（2025年7月））

　しかし、ガートナーのディスティングイッシュトバイスプレジデント, アナリスト、ピーター・ファーストブルック氏は、「プロンプトウィンドウは、ハッカーがシステムをゲーム化するための新たな攻撃経路となっています」と警鐘を鳴らす。

ガートナー
ディスティングイッシュトバイスプレジデント, アナリスト
ピーター・ファーストブルック氏

　実際、BoN（Best-of-N）と呼ばれる地下ツールが登場し、フォントサイズ、大文字小文字の組み合わせ、文字色や背景色などの表示形式を微妙に変化させることで、本来は拒否されるべき危険な質問への回答を引き出す手法が確立されつつあるという。

　では、こうした手法に対峙するには、どんなセキュリティ戦略が必要なのだろうか。【次ページ】セキュリティ領域における3つの革新