GAFAMも勝てない？AI最大の壁を40年前に見抜いた日本人、答えは“意外すぎる習慣”

生成AIに感じる「あの違和感」

　前編では、AIが越えられない「たった1つの壁」を見ました。なぜ越えられないのか。想定外の事態に応じて手順を修正することはできても、何を目的とし、何を正解とするかという前提そのものを、自律的に問い直して設計し直すことは、まだできないからです。

　だから私たちは、最後の判断を手放せません。これこそが、筆者のいう「自己言及」の欠如です。人間なら難なく解けるパズルを主要AIが1%未満しか解けないのも、AIエージェントに仕事を任せきれず人間の確認や修正が要るのも、根本原因はここでした。

　この壁を、業務のたびに感じる読者も多いでしょう。ChatGPTに提案書を直させると、別の段落とつじつまが合わなくなる。人なら質問の意図を察し、一手先まで読んで再提案します。ですがAIは、言葉にしていない真意や過去のやりとりを素通りし、そのずれに自分では気づきません。

　さらに厄介なのは、こうしたやりとりを続けるうちに、私たちの側にも変化が起きることです。以前は提案書の筋の良し悪しを肌で感じ取れていたのに、「まずAIにたたき台を」が当たり前になり、自分の考えを持つことすら手放してしまう──そんな人も少なくないはずです。

　一方、優れた使い手が実践するのは、答えを鵜呑みにせず、浮かんだ違和感から自ら一次資料にあたり、新たな仮説を立ててAIに示し、さらによい答えを引き出すことです。いま、AIの能力を引き出すうえで、また、AIによって自分を失わないために、何より重要です。そして野中は、この所作を軽視することによる「盲点」についても指摘しました。

その盲点『失敗の本質』とは

　野中氏らは、日本の第二次世界大戦を徹底分析し、『失敗の本質──日本軍の組織論的研究』にまとめました。敗因は、兵力でも装備でもなく、日露戦争での成功体験への固執だといいます（注2）。

　殺傷能力の高い兵器が主流になっても、白兵突撃の勝ちパターンを捨てられない──これは、AIの答えを「自己言及」なく鵜呑みにするのと同じ構造です。

　本来「自己言及」できる人間の組織も、過去の成功体験で思考停止すれば、その力を失います。

　皮肉にも、日本軍が失ったその力こそが、1980年代に世界を席巻した日本企業の強さの源泉でした。

　野中氏は、現場が「暗黙知」をぶつけ磨き合うなかから新しい知が生まれるとする「知識創造理論」をまとめ、知が生まれる「場」という日本特有の概念を、その土台に据えました（注3）。

［表1］『失敗の本質』が暴いた敗因は、AIに頼り切る組織の弱点だった

『失敗の本質』が突き止めた 日本軍の敗因	AI任せの組織が 引き起こす失敗	「知識創造理論」による 解決手段
過去の成功体験への過剰適応	AIは過去の最適解を返し、組織は疑わずくり返す	場で、前提そのものを問い直す
戦い方を内側から作り変えられない	AI最大の弱点「自己言及の欠如」と同じ構造	暗黙知と形式知を循環させ、自らを更新する
空気の支配・異論の排除	「AIがそう言うから」で決まり誰も問いを立てない	異質をぶつけ合う知的コンバット（ワイガヤ）
現場の当事者性の欠如・傍観	AIに任せ、人が自分の足で動かなくなる	身体で感じ、試し、体得する

【次ページ】半世紀前に現在のAIが抱える問題を先回りできたワケ