AIエージェントの“暴走”をどう防ぐ？ ガートナーが示すセキュリティ「6つの要点」(2/3)

AIエージェントは「マルウェアに似ている」？

　AIエージェントは挙動の読みにくさと、サイロを越えたデータアクセスの点でマルウェアと類似する。「現状を放置しては、外部ハッカーの悪用により、それが現実のものとなりかねません」と矢野氏は警鐘を鳴らし、その阻止のために次の6つに注力すべきと訴える。

■1. AIエージェントのライフサイクル管理
　AIエージェントは1ユーザーが複数を作成・利用し、近い将来のAIエージェント自身による自己増殖もほぼ確実視されている。その中でのセキュリティの確保においては、あらゆるエージェントの作成者と、その狙いの把握とともに、不要なエージェントの悪用回避に向けた確実な廃棄が必要となる。

　そこで実施すべきは、あらゆるエージェントの一元管理に向けた基盤整備だ（下図）。要件となるのは、あらゆるエージェントに対する識別用のユニークIDの配布と、ユーザー情報の紐づけだ。併せて、不要なエージェントの漏れのない廃棄に向けた、ライフサイクル管理プロセスも確立する必要があるという。


■2. AIエージェントの認証
　なりすましなどの不正アクセスの防止では、「認証」が有効かつ現実的な策だ。ただ、AIエージェントは人と違い、生体認証やスマホによる二要素認証を利用できないのが難点だ。エージェントのアクセス速度は人の比ではなく、システムとして認証を自動化する必要もある。

　現実解が、マイナンバーの公開鍵基盤などの社会基盤に採用されている非対称鍵による認証基盤の整備だ。数学的に対の2つの異なる鍵を用いることで、現状において極めて高い水準でアクセスの安全性を確保できる。

「自由なアクセス」と「最小権限」はどう両立するのか

■3. AIエージェントのアクセス制御／権限管理
　AIエージェントの活用の難しさとして、すでに述べたとおり、エージェントによる「自由で柔軟なアクセス」と、「目的に基づく最小のアクセス権限」というセキュリティ原則が相反する点が挙げられる。「ただ、“最小権限”の考え方は踏襲しつつ、権限を柔軟に昇格／降格させる技術が近く実用化される見通しです」と矢野氏は展望する。

　その間までの施策として紹介したのが、エージェントのユーザーである現場側にその目的を提示させることだ（下図）。それを受け、各エージェントのアクセス制御設定を管理側で実施する。


「自律的で再帰的な、自身で出した結果を基に、新たなタスクを始めさせるAIエージェントの使い方では、アクセスデータが想定範囲をはるかに超える事態も十分に考えられます。その点を勘案し、そうしたユースケースではリスク管理上、アクセス範囲を安全と判断できるものだけに厳しく絞るべきです」（矢野氏）

■4. AIエージェントにおける情報漏えい対策
　AIエージェントで厄介なのが、経営企画や財務など、機密情報の取り扱いに慣れているユーザー以外でも、重要情報の入手機会が格段に増えてしまうことだ。それらは正規表現でないことも多く、従来からのDLP（Data Loss Prevention）ツールでの対応も難しい。

　施策となるのが、セキュリティ面の判断の重要局面に、人間が必ず介在して最終判断や承認、監査を行う、いわゆる“Human in-the-Loop”を取り込んだAIエージェントの運用だ。

「もう1つ、役立つ考え方が、目的に応じてアクセス範囲を細かく見直す“Purpose-Based Access Control”です。いずれにせよ、AIエージェントの利用法に合わせてユーザーの協力の下、これまで“固定的”だったセキュリティを“動的”にすることが求められます」（矢野氏） 【次ページ】現場主体のリスク判断へ…アウェアネスをどう醸成するか