米アンソロピック、独立評価機関METRに「社員並み」の社内アクセス付与 6人を受け入れ

　米アンソロピックは10月15日（米国時間）、AIモデルのリスクを外部から検証する独立評価機関の米METRに対し、社員並みのアクセス権限を与え始めたと発表した。METRは、最先端のAIモデルを評価する非営利団体。

　すでにMETRの6人を受け入れ、社内のハードウェア、オフィス、社内ツールやシステムを使えるようにした。アクセスの範囲は、アンソロピック自身のリスク評価チームとおおむね同等という。社員には情報を積極的に共有するよう促す一方、顧客データ、弁護士との間の秘匿特権が及ぶ情報、モデルのアーキテクチャーは対象から外した。アーキテクチャーは漏えいの危険が高く、共有には社内の明確な承認が必要になる。

　METRは、アンソロピックのリスク水準や運用についての分析を公表する。アンソロピックは公表を拒否できない。ただし、あらかじめ定めた限られた分類に限り、情報の削除を求めることができる。METRは、削除が妥当だったかどうかを、中身を明かさずに公に述べられる。

　アンソロピックは、この仕組みを銀行監督にたとえている。監督当局が大手銀行に常駐の検査官を置くのと同じように、外部の評価者を社内に入れるという考えだ。同社は公的な説明責任を果たしたい一方で、悪用につながる情報や、計算資源や学習の詳細といった商業上の機微な情報までは公開できないとしている。そこで第三者に深くアクセスしてもらい、証拠と結論を共有してもらう形をとる。

　ほかの評価者との取り組みも進める。SecureBioは、8月のリスク報告書のうち化学・生物兵器の章を審査している。アクセンチュアとは、9月に発表した評価チームの提携のもと、英Facultyとともに、モデル評価、レッドチーミング、アラインメント評価、安全対策の試験で幅広い提携を進めるという。ハギングフェイスなどとも初期の協議に入った。

　今回の取り組みは、米ホワイトハウスの「White House Accord on Super Intelligence」で、外部の評価者と協力するとした誓約に基づく。アンソロピックは、評価者の受け入れを自主的に行っており、すべての最先端AI企業が同様に行うべきだとしている。