認識にギャップが発生してしまう“生々しい”過程

　実際に発生していることを順に追っていくと、ギャップが生まれる構造を生々しく理解することができます。それぞれの担当者の会話を見てみましょう。

工場の作業者 → 工場の管理者
作業者：ほんと、ひどいですよ、あのAIシステム。じゃがいもの品種の違いを理解していないから、男爵もメークインも一緒くたで、とにかく古いものから使えと指示してくるんです。

管理者：システム上は、細かな種類も管理できるようになっていたと思うけど。

作業者：そうなんですよ。データとしては入っているのですが、指示に反映されていません。メークインみたいに煮崩れしにくい品種と、男爵のようにスープに溶け込みやすい品種があるのに、すべて男爵を使うというような、ひどい指示を出してくるんですよ。

管理者：そりゃまずいね。システム担当に伝えとくよ。

　かなり深刻な問題が発生していますね。

　すべてのじゃがいもが男爵になれば、煮崩れてスープに溶け込んでしまい、見た目ではじゃがいもが入っていない状態になります。パッケージ写真と違うということで、顧客からクレームがくるかもしれません。

　工場の管理者は、さっそくシステム担当者に連絡して話をしました。

工場の管理者 → システム担当者
工場管理者：新システムのAIの精度が良くないんですよ。じゃがいもは、品種で煮崩れやすさがかなり違うのですが、そのあたりをAIがほとんど考慮できていないようで。

システム担当者：ご迷惑をおかけしてすみません。状況を再度確認してみます。ただ、AIの内部ロジックとしては、じゃがいもの種類も個別に管理しているんですよね。

工場管理者：それは理解しています。でも、実際に「すべて男爵を使う」といった極端な指示も出ているようです。

システム担当者：それは極端な指示ですね。申し訳ありません。ただ、AIは学習によって訓練されるので、当初は極端な指示が出てしまうこともありますが、次第にチューニングされて出力結果が安定するはずです。私たちも、出力内容を再確認してみますので、もう少しお待ちいただけますでしょうか。

　工場の管理者は、システム担当者に状況を正確に伝えました。

　システム担当者も、問題の状況は理解できました。ただ、問題の深刻さに対しての受け止め方が異なります。工場ではじゃがいもの品種違いはクリティカルな問題なのですが、システム担当の立場ではAI導入に伴う過渡的な問題に過ぎないと捉えてしまっています。

　共有した情報内容に不足はないのですが、システム担当者は工場の生産管理を受け持つ人のようなシビアな視点がないため、認識の仕方に差が出てしまいます。

　システム担当者は、週次の定例会でこの状況を報告します。 【次ページ】仏様スタイルでも鬼軍曹スタイルでも伝わらない「悪い情報」