ガートナーが警告「今後5年の最大課題」…AIエージェント「無秩序増殖」を防ぐ対策5選(2/2)

AIエージェント管理基盤が「最重要技術」になる理由

　3つ目は「エージェントのアイデンティティや権限、ライフサイクルモデルを定義する」ことだ。

　ガートナーでは、エージェント管理の徹底に向け全エージェントへのアイデンティティの付与を推奨している。そこでのアイデンティティに対する要件が、不要になったエージェントを容易に廃棄できるよう、ライフサイクル管理に活用できることだ。

「それをアクセス管理にも利用し、不必要なデータアクセスを防ぐため、『期限付きかつ必要最小限のアクセス』のみ許可する仕組みを整備します。エージェントアイデンティティ製品の利用が本格化するのはこれからで、エージェント管理基盤としてここ数年で最重要技術の1つになるはずです」（ゴス氏）


　4つ目は「エージェント情報のガバナンスを構築する」ことだ。

　AI利用において情報ガバナンスは重要だ。ガバナンスを欠いた情報は正確性に欠け、それを学習したAIが誤情報を含む価値の低いコンテンツを大量生産するAIスロップ（AI slop）を招く。また、AIに学習させるべき情報か否かの判断も困難で、データの過剰共有も生じやすい。

　これらのリスクを軽減し、信頼できるデータアクセスを実現するためにも、情報ガバナンスへの投資を十分に行うべきとゴス氏は助言する。

AIを監視するだけでは足りない…最後の防波堤は「人の教育」

　最後の5つ目のステップは「AIエージェントの動作を監視し、是正し、責任あるAI文化も醸成する」ことだ。

　AIエージェントは悪意あるプロンプトで乗っ取られるリスクがすでに確認されている。対応には、エージェントの動作監視、不正行動の兆候検知、必要に応じた停止などを行う仕組みの整備が必要であり、そこで活用を見込める製品も市場に登場しつつある。

　一方で、ゴス氏が必要性を強調するのが「人の教育」だ。現状、多くの企業でサイバーセキュリティ研修は行われているものの、AIを安全に使うための研修はほとんど実施されていない。この点をゴス氏は懸念する。

「機密データの取り扱い方や、AIの成果物の検証方法など、AI利用に必要な知識習得にすぐにでも取りかかるべきです」（ゴス氏）

　エージェントスプロールへの対応には、こうした広範な取り組みが必要だが、その支援に乗り出すベンダーも相次いでいるという。