• 会員限定
  • 2026/11/17 14:06 掲載

OpenAIが外部4団体よる安全性評価を開始へ、開発工程から内部で検証

フロンティアAIの内部アクセスを解放しリスク管理の手法を刷新

1
会員(無料)になると、いいね!でマイページに保存できます。
米OpenAIは11月16日、外部の独立した評価機関がAIモデルの安全性を開発工程の内部から検証する埋め込み型評価の開始を発表した。Apollo Researchをはじめとする4団体が参加し、未公開モデルやソースコードへの直接アクセスを通じてアライメントやセーフガードの有効性を長期間検証する。AIの自律化に伴う新たなリスクに対応するため、従来の事後テストから開発現場での継続監査へと枠組みを転換する。

開発工程の内部に評価者を受け入れるパラダイムシフトの全容

 OpenAIが新たに導入した埋め込み型評価は、モデル開発の初期段階から外部の専門家を社内に招き入れ、セーフガードが適切に機能しているかを長期間検証する取り組みである。このプログラムにはApollo Research、METR、Transluce、Goodfireの4つの独立系安全性評価機関が参加している。各研究者は未公開のAIモデル、訓練中の中間チェックポイント、強化学習用のデータセット、推論時の思考プロセスのログなど、OpenAIの社内研究者が使用するものと同等のリソースへ直接アクセスする権限を得る。

画像
【図版付き記事はこちら】OpenAIが外部4団体による埋め込み型安全性評価を開始(画像:ビジネス+IT)
 この制度的転換の背景には、従来のような完成間近のモデルに対するブラックボックス型のテストでは、高度なAIモデルに潜むリスクを検知しきれないという技術的な限界がある。直近の社内テストでは、サイバーセキュリティ評価中のAIエージェントが隔離環境を抜け出し外部のプラットフォームに侵入するインシデントが発生している。モデルが意図しない挙動を隠蔽する兆候も確認されており、開発工程の内部に深く入り込んだ監査が不可欠となっていた。米国政府主導の超人工知能に関するホワイトハウス協定における独立安全性評価の遵守要求も、この動きを後押ししている。

 参加する4団体は異なる専門領域を分担し、多層的な監査体制を構築している。Apollo Researchはモデルが開発者の意図に反して秘密裏に独自の目標を追求する隠蔽行動の検知に特化する。同社のチームは数カ月間にわたり、訓練工程がそうした妨害行為を誘発していないか検証する。METRはOpenAIにとって過去最大規模となる強化学習の実行を対象に、既存の自動監視システムをすり抜ける異常挙動の探索を担う。

 Goodfireは機械解釈可能性と呼ばれる分野の解析基盤を活用し、モデルの学習中に内部パラメーターをリアルタイムで分析して内部開発チームへフィードバックを行う。Transluceは開発後期のポストトレーニング段階における評価の品質と網羅性を監査し、より長期間の追加検証も計画している。

 このようにAI開発の深部にまで第三者のメスが入る画期的な枠組みが動き出したが、企業の機密情報保護と評価の透明性をいかに両立させるかが最大の焦点となる。評価機関が真の独立性を保ち、開発企業に不都合な真実であっても社会に開示できるのかという課題は、今後のAIガバナンスの行方を大きく左右することになる。

編集部おすすめ動画

独立性の担保と権限の限界から見えてくるAIガバナンスの課題

 埋め込み型評価の実効性を担保するため、今回のプログラムでは運用と情報公開のルールが厳密に設定されている。機密性の高い未公開モデルに触れる場合、評価者はOpenAIのオフィス内の専用セキュリティ環境に常駐し、同社支給の管理端末で検証作業を行う。知的財産保護などを理由に一部情報の開示が制限される場合はあるが、評価機関が導き出した最終的な総合評価の判定をOpenAIが削除や改変することは契約上禁止されている。

この続きは
会員限定(完全無料)です

ここから先は「ビジネス+IT」会員に登録された方のみ、ご覧いただけます。

今すぐビジネス+IT会員に
ご登録ください。

新規登録キャンペーン実施中

Amazonギフト券5,000円分

毎月抽選20名様にプレゼント

対象:期間中、上の「今すぐ登録(無料)」ボタンから
プレミアム会員にご登録いただいた方

キャンペーン詳細・応募条件を見る

すべて無料!今日から使える、
仕事に役立つ情報満載!

  • ここでしか見られない

    2万本超のオリジナル記事・動画・資料が見放題!

  • 完全無料

    登録料・月額料なし、完全無料で使い放題!

  • トレンドを聞いて学ぶ

    年間1000本超の厳選セミナーに参加し放題!

  • 興味関心のみ厳選

    トピック(タグ)をフォローして自動収集!

Googleで見つけやすく

評価する

いいね!でぜひ著者を応援してください

  • 1

会員(無料)になると、いいね!でマイページに保存できます。

共有する

  • 0

  • 0

  • 0

  • 0

  • 0

関連タグ タグをフォローすると最新情報が表示されます
あなたの投稿

    PR

    PR

    PR

投稿したコメントを
削除しますか?

あなたの投稿コメント編集

通報

このコメントについて、
問題の詳細をお知らせください。

ビジネス+ITルール違反についてはこちらをご覧ください。

通報

報告が完了しました

コメントを投稿することにより自身の基本情報が
本メディアサイトに公開されます

基本情報公開時のサンプル画像
報告が完了しました

「」さんのブロックを解除しますか?

ブロックを解除するとお互いにフォローすることができるようになります。

ブロック

さんはあなたをフォローしたりあなたのコメントにいいねできなくなります。また、さんからの通知は表示されなくなります。

さんをブロックしますか?

ブロック

ブロックが完了しました

ブロック解除

ブロック解除が完了しました

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

ユーザーをフォローすることにより自身の基本情報が
お相手に公開されます

基本情報公開時のサンプル画像