AIエージェントで成果が出る業務は「わずか1割」？ガートナーが警鐘“LLM頼み”の限界(2/2)

AIエージェントを動かすカギは「意思決定」の設計にある

　AIエージェントは自律的に、繰り返し動き続ける。モデルにLLMを採用する場合、そのエージェントが大規模に正しく動くと信頼できるかが重要になる。信頼に足らない場合は、それを補う仕組みを別途用意しなければならない。

　その仕組みとしてブレテヌー氏が挙げるのが、意思決定インテリジェンスだ。融資の可否や在庫の発注タイミングなど、業務上の具体的な判断を「意思決定」と呼び、それをAIやデータを使って体系的に設計する考え方だ。

　この考え方が生まれた背景には、データを扱う担当者と、業務プロセスの担当者の溝がある。データ側はモデルを作れるが、それをどの業務判断に使えばよいかわからない。業務プロセス側はどこにデータを使えばよいかはわかるが、データをどう生かすかがわからない。両者をつなぐ接点として浮かび上がったのが「意思決定」だ。具体的な業務上の判断にいかにデータを生かすかを設計することで、データとプロセスが初めてかみ合う。


　意思決定の流れを、取得、解釈、モデル化、解決、実行という段階に分解し、各段階で異なるAI技術を組み合わせて設計したワークフローが、そのまま複数のAIエージェントを連携させるオーケストレーションの設計図になる。

【検証】5つ連結→不確実性上昇…どこまで自律させるべきか

　AIエージェントを実際の業務に組み込む際、どの程度自律的に動かすかを決める必要がある。ブレテヌー氏が示す自律性の5段階は、機械が極めて短時間かつ高い信頼性の基に判断を下す防衛システムをモデルにしている。人が拒否する猶予を与える段階から、実行後に通知する段階、人がまったく介在しない段階まで幅がある。クレジットカードの不正検知のように、大量の取引を人が止める余地のない膨大な処理では、すでに高い自律性が当たり前になっている。

　ただし自律性を高めるほど、制御は難しくなる。ブレテヌー氏が学生と行った検証では、LLMで動くAIエージェントを5つつなげると、不確実性が一気に膨らみ、制御が利かなくなった。従来型のAIの場合、制御不能になるのは12個連携した時点だったという。

「この教訓は、LLMだけに頼らないことです」（ブレテヌー氏）

　LLMは強力だが、従来型のAI技術と組み合わせ、制御下に置く必要がある。その制御役を担うのが、オーケストレーターと呼ばれるエージェントだ。オーケストレーターはほかのエージェントの動きを止めたり、修正したりできる。ブレテヌー氏が見てきた事例のほとんどは単一プラットフォーム内での連携にとどまるが、今後は異なるプラットフォーム間、さらに企業の枠を超えた連携へと広がっていく。

処理が「10日→2日」に短縮、「AIエージェントの協働」3事例

　こうした仕組みが実際の業務でどう機能するか、ブレテヌー氏が過去1年半で支援したクライアントの事例を見てみよう。

　米国の大手不動産会社では、住宅ローンの審査から物件の契約まで17段階のプロセスをRPAで処理していた。各ステップが前のステップに依存する設計だったため、途中で問題が起きると全体が止まり、解決まで最大10日かかることがあった。しかし実際には各ステップは独立して実行できると気づき、それぞれをAIエージェントに置き換えて並列実行できるようにした。

　問題が起きたエージェントだけを止めて補完し、ほかは動かし続ける。処理は2日へ短縮し、同じリスク水準のまま処理件数も17％増やすことができた。同社はさらに各AIエージェントの意思決定ロジックをカタログ化し、ほかのプロセスでも再利用している。

　ヨーロッパの創業約120年の保険会社では、不正がないと判断された保険金請求の処理にAIエージェントを導入し、支払いまでの期間を10日から2日に短縮した。さらに迅速な対応で満足度が高まった顧客に対し、処理の最中に新商品を提案する流れを試みた。AIエージェントが提案した場合の成約率は100件中5件だったが、人間の担当者が提案する形に変えたところ100件中21件に伸びた。コールセンターが社内有数の販売チャネルになりつつあるという。

　ヨーロッパの小売企業では、営業担当者が見込み客に電話をかけると、AIエージェントが背後で会話を聞き、その内容を基に提案書や価格表を作成する。手応えがあれば、担当者は通話を終えてすぐ提案書を送ることができる。資料作成の時間が減り、かけられる電話の本数が増えた。

　これらに共通するのは、「AIエージェントが人の仕事を奪う」のではなく、人と協働して成果を押し上げている点だ。ブレテヌー氏は最大のリターンは人とエージェントの協働から生まれると指摘し「このリターンは時間短縮だけではなく売り上げの成長までを含む」と力を込める。

万能ではないAIエージェント、価値を最大化する“2つの条件”

　もっとも、導入にあたって最も時間がかかったのは技術ではなかった。保険会社の事例では、分析は約6週間で済んだが、業務プロセスの変更には9カ月を要した。コストがかかるのはチェンジマネジメントだ。

　適用範囲も限られる。ブレテヌー氏は「現在の業務プロセスのうち、AIエージェント化でメリットが得られるのはせいぜい10％程度ではないか」と話す。だからこそ、AIエージェントが本当に価値をもたらすユースケースを見極めることが重要になる。ここでブレテヌー氏は2つの動きを勧める。

　1つは全社的なAIリテラシー教育だ。AIへの不安が広がる中で、エージェントが人の仕事を奪うのではなく、どう補うかを社内に示すことが重要になる。

　2つ目はシミュレーション環境の整備だ。マルチエージェントシステムでは不確実性が高く、従来のソフトウェア開発のように「このインプットに対してはこうアウトプットが出る」という形のテストでは検証しきれない。さまざまな状況を仮想的に再現するシミュレーション環境でエージェントの振る舞いを事前に確認する必要があるが、こうした環境はソフトウェアエンジニアリングの世界ではまだ一般的ではない。

　AIエージェントには本物の価値がある。ただしその価値は、技術の高度さよりも、人と機械がどう協働するかの設計から生まれるのだ。