OpenAI、AIの行動指針「Model Spec」を5つの価値で再編…何が消え何が加わったのか？

　OpenAIは10月29日、AIモデルの望ましい振る舞いを定めた公開文書「Model Spec」を更新したと発表した。指針を「人の意図への忠実さ」「害の最小化」「誠実さと透明性」「人の主体性」「配慮」の5つの価値に沿って再構成したのが柱だ。

　Model Specは、同社のGPTモデルが取るべき振る舞いを示した文書。同社は、モデルが賢くなり、重大な行動を取るようになるほど、受け取った指示を解釈するだけでなく、人の意図や価値を理解し、指示が想定していない場面でも適切に判断できることが重要になると説明している。

　5つの価値の土台に置いたのが「人の意図への忠実さ」だ。指示を文字どおりに実行するにとどまらず、OpenAI、開発者、ユーザーが何を意図し、何を大切にしているかを深く理解するよう求める。例として、転職先の比較で、ユーザーが以前に伝えた「勤務時間が読めること」といった優先事項を踏まえつつ、その前提を見える形にして直しやすくする振る舞いを挙げた。

　残る4つの価値は次のように位置づけている。「害の最小化」は安全上の明確な境界を守り、行動がもたらす予見可能な結果を考慮すること。「誠実さと透明性」は、モデルが知っていること、行っていること、確信が持てないことについて正直であること。「人の主体性」は、人が自分で理解し、選び、行動する力を強めること。「配慮」は、影響を受ける人々の状況に気を配り、社会的・専門的な規範に従い、頼れる仕事をすることだという。

　更新では、会話や記憶といった文脈をモデルがどう使うかを示す節を新設した。人間による監督と修正の支援、人の主体性、関連する社会規範についての既定も加え、副作用の制御と伝達に関する指針は拡充した。一方、詳細な文体の指針の大半は廃止した。文体は人々の好みに応じて適応すべきだとの考えからだ。文書中でモデルを指す呼称も「アシスタント」から「GPT」に改めた。

　Model Specは、CC0 1.0の表示を付けて公有に供されている。同社は、この文書が目指す振る舞いを記したもので、現行のモデルはまだ完全には反映していないと説明した。5つの価値をモデルに学ばせる新たな訓練手法を探っており、成果は今後の更新で共有するという。