AIエージェントの“暴走”をどう防ぐ？ ガートナーが示すセキュリティ「6つの要点」

AIエージェント導入企業の「約6割」が危惧のワケ

　イノベーションを加速させるべく、多くの企業がAIエージェントの導入に躍起となっている。

　「ただし、取り組みを概観しただけでも、そこに潜むリスクをいくつも確認できます」と語るのは、ガートナー シニア ディレクター,アナリストの矢野薫氏だ。

　矢野氏によると、根本的な問題は、AIエージェントはその進化の速さゆえに、セキュリティ確保の策が、いまだ技術的に確立されていない点だという。

　ガートナーが国内で実施した調査でも、全体の58.5％が「AIエージェントのセキュリティについてどこから着手すべきか分からない」と回答。その中で成果創出を優先して導入を進めた結果、59.3％が「セキュリティが後手に回っている」ことを危惧している。

　加えて、AIエージェントはその使われ方から、本来的にセキュリティ対策が講じにくい点も悩ましい。AIエージェントの利用は一般に現場主導で、アクセス先のデータは目的に応じてさまざまに変わる。対してセキュリティ対策は一般的に、保護対象を事前に定め、対策を講じることで実施される。

「前者は民主的、後者は中央集権的なアプローチです。その違いから、利用実態と対策の間でギャップが生じやすく、想定外のアクセスでのセキュリティの責任の所在が曖昧になることで、リスクが顕在化しやすい状況にあるのです」（矢野氏）

　では、こうした状況を踏まえ、企業が講じるべき対策とは何だろうか。 【次ページ】】AIは“マルウェア”に似る…不正利用を防ぐ管理基盤の整備が急務