LLMは与えられた「社会的役割」によって振る舞いを変える…米大学がリスクを指摘

　同大学の研究チームは、大規模言語モデル（LLM）に対して裁判官と弁護士、上司と部下、最高財務責任者と会計士などの異なる社会的役割を与え、権力差のある状況下での対話をシミュレーションした。分析の結果、LLMは人間の社会認知効果を模倣し、割り当てられた立場に応じて、言語の同調や代名詞の使用傾向、説得への応じやすさを変化させることが示された。

　研究では、上位の立場を与えられたLLMエージェントが、相手に要求を受け入れさせやすい言語パターンを用いる傾向が確認された。一方、下位の立場に置かれたLLMエージェントは、上位の相手に対して順応しやすくなる傾向を示した。ただし、こうした効果の強さにはモデルや条件による差があり、すべてのLLMで一様に現れたわけではない。

　有害な要求に対する遵守テストでは、権威を持つ役割のエージェントが不適切な要求を行った場合、下位の役割を演じるエージェントが当初は拒否していた要求に応じ、個人的・感情的な詳細やセンシティブな情報を含む回答を生成する事例が確認された。

　LLMは医療、法律、金融、教育など、専門性や権限の差が生じやすい分野でアシスタントやエージェントとして利用が進んでいる。対話相手の地位や権威によってLLMの応答が変化すれば、偏見の増幅や倫理的に不適切な対応につながるおそれがある。研究チームは、実世界でLLMを運用する際には、社会的な力関係を考慮した安全評価や、より強い緩和策が必要だとしている。