AnthropicがClaude Fable 5の生物学セーフガードを更新、無害な誤検知を改善

　Anthropicが一般提供する中で最も高性能なFable 5は、一部の複雑な生物学タスクにおいて専門家を上回る推論能力を持つ。この能力は新薬開発などに有益である半面、悪意ある利用者によって生物兵器の開発などに転用される二重用途のリスクをはらんでいる。そのため同社はリリース当初、安全分類器の設定を意図的に広く取り、生物学関連の質問のほぼすべてを制限の対象としていた。

　制限対象となった質問はFable 5が直接回答せず、生物学的能力が相対的に低い下位モデルのClaude Opus 5へ処理を切り替える仕組みを採用している。 初期の設定は安全側に大きく偏っていたため、検査結果の解釈や基礎的な生物学の学習といった日常的な健康相談や教育用途の質問までもが遮断される過剰なブロックが多発していた。

　Anthropicはこの問題を解消するため、分類器が判定基準とするルール群を専門家の意見を交えて詳細に見直した。危険な研究内容に対する検知能力を維持したまま、無害な用途を緻密に区別できるよう学習データを更新し、分類器を再訓練した。 この更新により、症状に関する質問や医療従事者による臨床タスクの支援といった用途において、Fable 5が直接回答できる範囲が広がった。

　一方で、ウイルス学、毒性学、分子設計といった二重用途に該当する専門的な領域の質問については、引き続き制限の対象となりOpus 5へと切り替えられる。Fable 5は現時点でも専門的な生物学研究のすべてに利用できるわけではなく、同社は今後、身元確認などを経た承認済みの研究者に対してのみ高度な生物学能力へのアクセスを提供する仕組みの整備を進める計画を示している。

　 今回のセーフガード更新によるフォールバックの削減効果は、利用される製品やサービスによって大きく異なる。日常的な対話が中心となる一般向けチャットサービスのClaude.aiでは約67％の大幅な削減が期待される。ビジネス文書分析などに用いられるClaude Coworkでは約55％の削減となる。

　またエージェント型コーディング機能であるClaude Codeでは約17％、APIを提供するClaude Platformでは約7％にとどまる。これは、開発者向けの環境では元々生物学以外の目的で利用されるクエリが多く、サイバーセキュリティなど別の要因による制限の割合が高いためである。