ガートナーが警告「今後5年の最大課題」…AIエージェント「無秩序増殖」を防ぐ対策5選

AIエージェント乱立の代償…今後5年「最大のIT課題」とは

　AIエージェントの企業利用が急速に広がる裏側で、エージェントが無秩序に増殖し、活用の全体像を把握・管理できなくなる「エージェントスプロール（Agent Sprawl）」を警戒する声も高まっている。

　エージェントスプロールによる問題は深刻だ。発端となるのは、シャドーAIエージェントなどによってエージェント利用の可視性や統制が大きく損なわれることだ。この状況が広がれば、不適切なデータアクセスによるデータの過剰共有とデータ漏えいのリスクが高まる。

　また、不適切なデータアクセスはAIエージェントによる誤った学習を招きやすく、誤情報の発信リスクも増す。エージェントを適切に管理できなければ、ハッカーによる悪用も起こりやすく、セキュリティも大きく低下する。さらに、膨大なエージェントの稼働には相応のコストも覚悟しなければならない。

　「スプロールは今後5年でITリーダーが直面する最大のIT課題となるでしょう」と指摘するのは、ガートナーのシニア ディレクター、アナリストのマックス・ゴス氏だ。

　では、この難題にどう対処すべきか。ゴス氏は望ましい道筋を次の5つのステップとして解説する。

アプリ急増にどう対応？カギは「専任者」と「棚卸し」

　1つ目のステップは「エージェントのガバナンスとポリシーを確立する」ことだ。

　ゴス氏によると、多く企業ではAIエージェント利用にガバナンスを利かせるべく、経営層やデジタル、法務などの専門家から成る「中央委員会」がAI戦略やポリシーを策定。その上で、アプリケーションチームが主体となり、AIの信頼性やリスク、セキュリティの一体的な管理を狙いとするフレームワーク「AI TRiSM（AI Trust, Risk and Security Management）」などを参考に、ガードレールの策定や社員へのトレーニング、エージェント／データセキュリティ対策などを実施している。

　しかし、現状の悩ましい問題は、エージェント利用が可能なアプリの急増による対応の手間の大きさから、ガバナンスポリシーを十分に現場へ適用できないケースが少なくないことだ。

　そこでゴス氏が必要性を訴えるのが、「個々のアプリケーションごとのポリシー適用を主体的にコントロールし、そのオペレーションに責任を負う専任者の配置」である。

「専任者は、現場へのヒアリングに基づくAIエージェントの利用状況の詳細把握と、中央委員会と連携した利用ポリシーとユースケースの定義、現場への周知・徹底の2つに責任を負います。特に後者は、誤解を生じさせないよう、具体的かつきめ細かく文書化することが重要です」（ゴス氏）


　2つ目は「エージェントの中央集権型インベントリを構築する」ことだ。エージェントスプロールを防ぐには、「どのエージェントが」「何のために」「どのデータを」「どうつながり」「どう処理して成果を挙げようとしているか」を棚卸しし、インベントリとして集約管理する必要があるという。

　理想はもちろん全エージェントに対する棚卸しだ。ただ、エージェント利用が拡大する中、それが現実的に困難だと判断されることも十分にあり得る。そこでの対応策としてゴス氏が推奨するのが、「機密データのアクセス権を持つ」「自律的な意思決定を行う」「重要なビジネスプロセスに組み込まれている」といった、リスクの大きなエージェントに絞り、まずは作業を進めることだ。

　エージェントのリスクは、連携して動作するエージェントが多くなるほど、またアクセスするデータの機密性が高いほど大きくなる。それらのリスクの程度もインベントリに記録しておくことで、挙動把握・監視のためのモニタリングの要否を判断しやすくなる。 【次ページ】AIエージェント管理基盤が「最重要技術」になる理由