AIの危険は“間違った答え”だけではない…AIエージェントに「任せてはいけない領域」

「質問に答えるAI」から「仕事を進めるAI」へ

　最近ChatGPTを使っていると、最初に、「まず資料を調べます」、 「複数の情報源を照合します」、 「数値を計算します」などの表示が出るようになった。そして答えが出てくるまで、従来より時間がかかる場合が多くなった。

　これは、ChatGPTがエージェント化しつつあることを示すものだ。

　従来の生成AIは、基本的には「質問に答えるAI」であった。人間が問いを与え、AIが回答を返す。このやり取りは1回ごとに完結する場合が多かった。

　ところが、最近では、ある仕事を達成するために、何をする必要があるかをAIが考え、仕事をいくつかの段階に分け、必要な道具を使って実行する。

　たとえば、インターネットを検索し、論文や報道記事を読み、重要なものを選び、内容を比較し、最後に報告書にまとめる。つまり、従来型のAIが「答えるAI」であるのに対して、AIエージェントは「仕事を進めるAI」だ。

複数のAIがチームを組んで分業する

　AIエージェントでは、複数のAIが仕事を分担することができる。

　たとえば科学上の難問を解く場合、文献を調べるAI、数学的な推論を行うAI、計算によって仮説を検証するAI、他のAIの結論を批判するAI、全体をまとめるAI、といった分業が可能だ。これは、人間の研究組織に似ている。

　初期のAIエージェントでは、「このAIは資料調査を担当し、このAIは分析を担当する」と、人間が細かく役割を決めていた。しかし、最近の高度な仕組みでは、人間は最終目標だけを与える。するとAI自身が「この問題を解くには、まず資料を集め、その後に計算を行い、さらに検証が必要だ」などと判断し、必要な作業を自ら設計する。

　つまり、人間が目的を設定すれば、AIが仕事を分解し、AIが各仕事を実行する。そして、AIが結果を統合する、という構造になっている。AIは単なる作業員ではなく、プロジェクトマネージャーに近い機能を持つようになった。

日常のAIもエージェント化している

　AIエージェントという言葉を聞くと、特殊な研究者だけが使う高度な技術のように思える。しかし実際には、先に述べたように、一般の利用者もすでにエージェント的なAIを使い始めている。以前は、質問に対してその場で文章を生成するだけで済む場合が多かった。しかし現在では、必要に応じて検索したり、長く推論したり、複数の処理を行ったりしているのである。

　利用者から見れば、1つの質問をしただけだが、AIの側では、検索、選別、比較、分析、文章作成という複数の段階が実行されているのだ。

　今後は、「これはAIエージェントだ」と意識して特別な製品を使うのではなく、通常のAIサービスの中にエージェント機能が組み込まれ、それを日常的に利用する形が一般的になるだろう。 【次ページ】AIエージェントを「安全に作る」難しさ 【次ページ】AIエージェントを「安全につくる」難しさ