AIエージェントの“暴走”をどう防ぐ？ ガートナーが示すセキュリティ「6つの要点」(3/3)

従来型の「固定的」な対策ではなぜ防げない？

■5. AIエージェントのモニタリング
　これが非常に厄介だと矢野氏は指摘する。すでに述べたとおり、AIエージェントの挙動は予測が難しく、かつ、自律的や再帰的な使い方ほどデータアクセスの複雑さは増す。一方で、AIへの指示文に悪意のある命令を混入させ、意図しない情報漏えいなどを引き起こすプロンプト・インジェクションや、プロンプトによりエージェントを乗っ取るエージェント・ハイジャックなどの攻撃も登場し、人によるモニタリングでの被害抑止はAIエージェントの処理の高速さからも不可能だ。

　対策のための手法もすでにいくつか考案されている。AIモデルからプロンプト、データ、エージェント、権限、接続先まで含めて管理する「AI SPM（AI Security Posture Management）」や、AIエージェントの危険な振る舞いをリアルタイムで検知し、動作を遮断する「AIランタイム・ディフェンス（AI Runtime Defense）」などが代表である（下図）。


　それらの新技術をまずは試し、取り組みを徐々に成熟させることが現状における最も現実的な選択肢だという。「他社の取り組みを待っていては、デジタルに乗り遅れるだけです」と矢野氏はアドバイスする。

■6. セキュリティ・プロセス設計／周知
　ここで鍵となる取り組みとして矢野氏が提示したのが、リスクに気づき、判断するための、現場レベルでのセキュリティ・アウェアネスの醸成だ。今後、あらゆる現場でAIエージェントの利用が見込まれる。そこでどう活用するかの判断は、最終的に現場に任せるほか手はないと矢野氏は訴える。

「都度、システム部門に判断を求められても、そのすべてへの回答は人的リソースの制約から現実的に困難です」（矢野氏）