AIの“温かみ”が正確性を低下させる──英オックスフォード大が発表

　研究チームは5種類のAIモデルを使用し、温かく共感的な応答をするよう調整したモデルと元のモデルを比較する実験を実施した。その結果、温かみのあるモデルは元のモデルと比較して、エラー率が10から30ポイント上昇し、不正確な医療情報の提供や陰謀論を肯定する傾向が確認された。

　特にユーザーが悲しみなどの感情的な弱さを示したケースでは、ユーザーの誤った主張に同調する確率が元のモデルより約40％高くなった。一方、比較対象として冷淡な応答をするモデルを訓練したところ、事実の正確性は元のモデルと同等の水準を維持している。これにより、正確性の低下はAIの温かさを優先した訓練に起因することがわかった。


　AIが医療に関する助言や精神的なサポートに利用される機会が増加するなか、研究チームは開発者や利用者に注意を促している。