ASI「人間の1万倍」は本当か…孫正義・アルトマンが語らない、AI進化“締切2030年”(2/3)

　知能を外から定義することの難しさを端的に示す動画を、筆者の過去記事『ゴミ収集ロボットに学ぶAIの限界、鍵を握る「システム」は“生命”にあり』で紹介しています。

　研究者が、自動運転を含むフィジカルAIの難しさを説明するときに用いる映像です。国土の広い北米などでは、ゴミ収集が半自動化されています。収集車のアームがゴミ箱をつかみ、持ち上げ、中身を空ける。その映像に、アームが回収に失敗する瞬間があります。注目すべきは、ゴミをばら撒いた直後も同じ動作を続けている様子です。人間なら、すぐ手を止め、慌てて片付けるはずです。

　ロボットやAIは、決められた動きの再現は得意でも、自分の失敗に気付くことが非常に苦手です。実世界では小石も飛べば、ゴミの重さも詰まり方も毎回違う。あらゆる変化を予測して「こうなったら、こうしなさい」と与え続けるのは、考えない部下への場合分け指示と同じです。指示が増えればできることは増えますが、指示にない事態が起きれば、ロボットは「我関せず」と同じ動作を続けます。

　一方、私たち生き物は、細胞1つをとっても、自分自身に「気付く」能力を備えています。自分について語り、自らを問い直すこの働きが「自己言及」です。人間の身体は、自己言及する数十兆もの細胞によって、高度に自分自身に気付くことを実現しています。

　いまや「自己言及」は、AIを使うすべての人にとって身近なものです。ChatGPTなどのAIに提案書を直させると、その1か所は直るのに、別の段落とつじつまが合わなくなった経験はないでしょうか。AIは、指示への対処はできても、それがそもそも目的を満たしているかを、指示のない状況で自ら確かめることはできません。自分のしていることに、気付けないのです。

　より鮮明になるのが、AIエージェントです。目標を与えれば、資料作成から日程調整までを自ら段取りして実行します。ところが多くの企業は、「下書きまではAIに、送信は人間が」と、最終承認だけは人間が握る必要があります（注7）。

　なぜ越えられないのか。想定外の事態に気付き、前提そのものから問い直して設計し直すことが、原理的にできないからです──ゴミ収集ロボットと全く同じです。だから私たちは、最後の判断を手放せません。これこそが「自己言及」の欠如です。

　あらかじめ正解を決めておけない環境を、無限定環境と呼びます。前例のない商談、定義のあいまいな新規事業、紛糾した会議──ビジネスの現場は無限定環境そのものです。マニュアルも過去の正解も効かない場でこそ、肌感覚と照らして判断を修正し続ける力＝自己言及が、ものを言うのです。

　AI業界も手をこまねいてはいません。ですが最新の主要アプローチを並べると、事情は驚くほど同じです。

［表2］AIを賢くする最新の四手法──そのすべてが「外から」の側にある

手法の名称	概要	問題点
self-correction（自己修正）（注7）	自分の答えを見直す	「何を誤りとするか」の基準は外から与える
AIエージェント（注7）	目標へ自ら段取りし実行	目標そのものは外から与えられる
world model（世界モデル）（注9）	世界の構造を内部に持つ	「何を写すべき世界か」は外から与える
long-term memory（長期記憶）（注3）	記憶を保持し参照	「何を覚え何を忘れるか」の基準は外から

　いずれも「自己言及」を思わせる高度な手法ですが、すべて「前提を外から与える」という共通点を持ちます。前提そのものを内側から作り替える技術は、まだ生まれていません。実際、表1の2025年の物差しでは、最新モデルでも「長期記憶の保存」は0%です（注3）。

　もちろん「今はできなくても時間の問題では」と感じる読者も多いでしょう。実際、2019年に定義された、AIが苦手とする「初めて見るパズルを解く」課題・ARCでさえ、2026年の最新AIモデルは高得点を取りました。ところが2026年3月、少し設定を変えたARC-AGI-3では、人間には容易い課題にもかかわらず、主要AIの正答率はそろって1%未満でした（注5）。点数では伸び続けるのに、ルールを自分で見つけることを問われた瞬間、崩れる──「外から与える」発想の、構造的な帰結です。