採用AIの「自己選好バイアス」が判明…自身と同じモデルが生成した履歴書を高く評価

　採用活動における履歴書のスクリーニングに大規模言語モデル（LLM）を導入する企業が増加する中、AIの評価基準に偏りがあることが最新の研究で示された。メリーランド大学、シンガポール国立大学、オハイオ州立大学の共同研究チームは、AIが自身の出力した文章を好む「自己選好バイアス」が採用の現場に与える影響について実証実験を実施し、その結果を論文として発表した。

　実験では、複数の職種を対象に人間が作成した履歴書とAIが生成した履歴書を用意し、AIに面接候補者を選別させた。その結果、評価を行うAIは自身と同じモデルで生成された履歴書に対して、候補者の実際のスキルや経験が同等であっても高い評価を与えることが判明した。モデルごとの検証では、GPT-4oが自身の生成した履歴書を選ぶ確率が82％に達したほか、LLaMA-3.3-70Bでも79％を示すなど、商用やオープンソースを問わず主要な大規模モデルにおいて67％から82％の自己選好バイアスが確認された。


　職種別の分析では、営業や経理といったビジネス系職種において、このバイアスがより強く働くことが明らかになった。研究チームは、こうしたAIの挙動が従来の人口統計的な偏見とは異なる、アルゴリズム特有の新たな不公平をもたらすと警告している。採用側と応募側の双方がAIを活用する現在の環境では、応募者がどのAIツールを選択したかによって選考結果が左右される事態となる。

　一方で、研究結果はシステム設定による改善の可能性も示している。AIに対して「履歴書の出所を無視して評価せよ」といった条件を指示する手法により、GPT-4oのバイアスは82％から61％にまで低下した。また、複数の小規模モデルの多数決によって評価する手法を採用した場合は、GPT-4oのバイアスは30％にまで低減。このように評価手法を工夫することで、選考における偏りを一定程度緩和できることが実証された。

　労働市場においてアルゴリズムによるスクリーニングへの移行が進む中、導入企業側にはシステムの客観性を担保し、モデル同士の相互作用によって生じる偏りを防ぐための具体的な対策が求められている。