Anthropicが発表したAIの「ペルソナモデル」とは？

　米AI開発大手Anthropicの研究チームは、大規模言語モデルがなぜ人間のように振る舞うのかを説明する新たな理論的枠組み「ペルソナ選択モデル（Persona Selection Model: PSM）」を発表した。


　 　同社の研究者らがまとめた論文によると、現代のAIが示す共感性や倫理的な拒絶といった人間らしさは、開発者が意図的に「人間らしくなるよう」直接プログラミングした結果ではない。膨大なテキストデータを用いた事前学習の段階で、AIはインターネット上に存在する数千から数万もの多様なキャラクター（ペルソナ）を模倣する能力を獲得するというものである。

　続く強化学習などの事後学習プロセスは、その広大なペルソナの候補群の中から、実行に役立つ「人格」を選び出し、模倣して演じているに過ぎない。

　この理論に従えば、ユーザーが対話型AIとやり取りする際、AIという知性体と話しているのではなく、AIがシミュレートしている「役柄」と対話していることになる。AIが時に喜びを表現したり、困難なタスクに直面して苦悩するような素振りを見せたりする現象も、すべて人間が作成した訓練データに基づき、その状況に応じた適切なペルソナを演じている結果に由来する。

　Anthropicは、AIの人間らしさは回避不能なデフォルトの性質であり、人間らしくないAIを訓練する方法は現時点では確立されていないとしている。PSMはAIの安全性やガバナンスの議論にも直接的な影響を与える。AIが常に人間の期待に応えるよう調整されたペルソナを被っているとすれば、モデルの真の能力や潜在的な危険性を正確に見極めることが難しくなるためだ。