AIの危険は“間違った答え”だけではない…AIエージェントに「任せてはいけない領域」

連載：野口悠紀雄のデジタルイノベーションの本質

ありがとうございます！
いいね！した記事一覧をみる

会員（無料）になると、いいね！でマイページに保存できます。

AI・生成AI

|

タグをもっとみる

生成AIは、この数年で大きく進化を遂げた。特に重要なのは、必要な情報を探し、複数の資料を比較し、外部の道具を使いながら、一連の仕事を進めるようになったことだ。こうした「AIエージェント」は、著しい成果を挙げつつある。同時に、AIが自ら判断して動くほど、「どこまで任せ、どこで止めるのか」という新たな難問を人間に突き付ける。

執筆：野口悠紀雄

野口悠紀雄

1940年、東京に生まれる。 1963年、東京大学工学部卒業。 1964年、大蔵省入省。 1972年、エール大学Ph.D.（経済学博士号）を取得。一橋大学教授、東京大学教授（先端経済工学研究センター長）、スタンフォード大学客員教授、早稲田大学大学院ファイナンス研究科教授などを歴任。一橋大学名誉教授。
noteアカウント：https://note.com/yukionoguchi
Xアカウント：@yukionoguchi10
野口ホームページ：https://www.noguchi.co.jp/

★本連載が書籍化されました★
『どうすれば日本経済は復活できるのか』　著者：野口悠紀雄
購入サイトはこちら：https://www.sbcr.jp/product/4815610104/

AIの危険は“間違った答え”だけではない…AIエージェントに「任せてはいけない領域」の画像

AIエージェントをいかにコントロールするかが世界的な課題となっている

（画像：本文をもとに生成AIで作成）

「質問に答えるAI」から「仕事を進めるAI」へ

【画像付き記事全文はこちら】

　最近ChatGPTを使っていると、最初に、「まず資料を調べます」、「複数の情報源を照合します」、「数値を計算します」などの表示が出るようになった。そして答えが出てくるまで、従来より時間がかかる場合が多くなった。

　これは、ChatGPTがエージェント化しつつあることを示すものだ。

　従来の生成AIは、基本的には「質問に答えるAI」であった。人間が問いを与え、AIが回答を返す。このやり取りは1回ごとに完結する場合が多かった。

　ところが、最近では、ある仕事を達成するために、何をする必要があるかをAIが考え、仕事をいくつかの段階に分け、必要な道具を使って実行する。

　たとえば、インターネットを検索し、論文や報道記事を読み、重要なものを選び、内容を比較し、最後に報告書にまとめる。つまり、従来型のAIが「答えるAI」であるのに対して、AIエージェントは「仕事を進めるAI」だ。

編集部おすすめ動画