ChatGPTは本当に“見えている”のか？ 人間なら簡単な「右と左」で露呈するある限界

生成AIがつまずく「簡単な位置問題」

　前回、ChatGPTに写真を見せて、「この名は何か？」と聞くと、正しい答えを返してくれることを述べた。ChatGPTが「眼」を持ったことによって、交信できる情報が劇的に増えたといって良い。

　では、「相対的な位置関係」について、ChatGPTの認識や判断は正しいだろうか。これについて、私はかなり大きな疑問を持っている。

　ChatGPTに、次のような質問をしてみた。「東京駅に神田方向から入ってくる中央線快速電車の先頭は何号車ですか？」

　この問いに対して、ChatGPTは、最初「12号車」と答えたのである（正解は1号車。12号車は最後尾）。誤りを指摘したところ、すぐに訂正したが、このようにごく単純な問題に対して、ChatGPTは間違った答えをする。

　もう1つ、次のような質問をしてみた。「御茶ノ水駅の中央線上りホームにおいて、地上階行きエスカレーターに1番近いのは何号車ですか？」

　この問いに対して、ChatGPTは、駅のホームを図解して、答えを示してくれた。その図では、一番近いのは、3号車あたりに見える。しかし、文章では「7号車が一番近い」といっている。

　この矛盾を指摘したところ、「図は間違いだった」と訂正した上で、新しい図を送ってきた。しかし、依然としてはっきりしない。

　もう1つ例を挙げよう。中央線快速のグリーンシートにはトイレがあるのだが、この場所がわかりにくい。電車の中には、詳しい位置を示す掲示がない。そこで、図を示してほしいとChatGPTに頼んでみた。しばらく考えたあとに、図を示してくれた。しかし右左が逆になっている。

　このように、複数対象間の相対的な位置関係や右左の区別という問題について、ChatGPTは正確な判断ができない場合が多いように思われる。写真を見て、「この商品の名前が安全ピンだ」と正確に教えてくれたのとは大きく違う。

　この2つの問いの間にはどのような違いがあるのだろうか？極めて興味深い。

駅を歩いた経験がないAIは何を理解しているのか

　これは「AIはシンボルグラウンディングができない」という問題と関係しているのかもしれない。「シンボルグラウンディング」とは、言葉や記号の意味を、別の言葉との関係だけでなく、現実世界の対象と結びつけて理解することだ。

　たとえば、われわれは「広々としている」という言葉の意味を、海岸を歩いたときの爽快な気持ちと結びつけて理解している。あるいは、「騒音」という言葉の意味を、建設工事現場の側を通ったときの状況と関連づけて理解している。

　ところが、ChatGPTは人間のように、実際に駅のホームを歩いたり、車内を移動したりした経験を持っていない。だから、人間と同じようにシンボルグラウンディングに基づいて言葉の意味を理解することができない。これまで述べてきた問題は、シンボルグラウンディングの問題と確かに関係している。

　そして、ChatGPTが誤った答えを出したのは、より直接的には次のような要因によるようだ。

　第1に、必要な資料が不足していること。駅の設備位置や車両構造は、一般的な言語知識だけでは正確に答えられない。公式の構内図、ホーム図、車両編成図などを確認する必要がある。

　第2は、座標系の取り違えだ。東京方面から見るのか、高尾方面から見るのか、車内から見るのか、どちらの方向を向いているのか、などによって、右左は変わる。その際、身体的な経験を持たないことに加えて、座標系の管理、資料の確認、文章と図の整合性の点検が不十分なのではないだろうか？ 【次ページ】身体を持つ人間と、持たないAIの決定的なちがい