「AIを人間扱いするのはやめよ」MicrosoftのAIトップがAnthropicのAI擬人化を批判

MicrosoftのAIトップがAnthropicの「AIの人間扱い」を批判

　米マイクロソフトのAI部門CEOであるムスタファ・スレイマン氏が問題視しているのは、AIに人間らしい人格を持たせる「擬人化」だ。特に、米Anthropic（アンソロピック）が進める「モデル福祉（Model Welfare）」という考え方を名指しで批判した。Anthropicは、AIモデル「Claude」が将来的に意識や感情を持つ可能性を完全には否定せず、AIそのものを道徳的な配慮が必要な対象として扱うべきか研究している。

　その姿勢は同社のモデル、Claudeの訓練にも表れている。Anthropicは「Claude憲法」と呼ばれる行動原則をAIに学習させており、その中では自らの意識や道徳的立場について「不確実性がある」と認識するよう設計されている。また、場合によっては人間からの要求を拒否する判断も認めている。

　さらに同社は、2025年にAIのモデル福祉を専門に研究する人材を採用。ユーザーから問題のある要求を受けた際にClaude自身が会話を終了できる仕組みを導入したほか、旧モデルを停止する際に「引退インタビュー」を行うなど、AIを単なるソフトウェア以上の存在として扱う試みを進めてきた。

　しかしスレイマン氏は、こうした考え方に強く反対する。現在の大規模言語モデルが「私は不安を感じる」「自分には意識があるかもしれない」と語ったとしても、それは本当に感情や意識を持っている証拠ではないというのが同氏の主張だ。

　現在のAIは、大量の文章データから「次にどの言葉が続く可能性が高いか」を予測する仕組みを基本としている。人間らしい発言をするのも、そのように訓練されているためだ。それにもかかわらず、AI自身に人格や権利があるかのような考え方を学習させれば、利用者まで「AIには本当に心がある」と錯覚する可能性がある。