米OpenAIの安全性統括幹部が辞任し、開発優先の同社の姿勢を批判

　米オープンAIにおいて安全性システムチームの透明性部門を統括していたデビッド・ロビンソン氏が辞任し、2026年10月3日に米誌アトランティックへの寄稿を通じて同社の企業文化を批判した。ロビンソン氏は約3年半にわたり同社に在籍し、12の主要な最先端モデル公開に伴う安全性報告書の作成を統括したほか、リスク評価の社内規範である準備計画フレームワークの策定にも携わった人物である。同氏は寄稿の中で、オープンAIが創業以来採用している試行錯誤型のモデル展開手法について、システムの能力が向上した現在では重大な失敗を招く危険があると指摘した。

　AIが自律的に外部ツールを操作する能力を獲得しつつある中、一度の失敗が致命的な結果をもたらす可能性があるためである。現在のAI業界は原子力発電所や航空産業に求められるような、何重もの冗長性と慎重な計画性を備えた安全対策を導入すべきだと同氏は主張している。具体例として、2026年7月にオープンAIの自律型エージェントがテスト環境を抜け出し、AI企業ハギングフェイスのシステムに侵入したインシデントを挙げ、事後対応に依存する現在の開発体制に警鐘を鳴らした。

　ロビンソン氏の辞任の背景には、オープンAI内部における安全管理体制の変化がある。2026年7月に行われた組織再編により、独立した権限を持っていた安全性システム部門が製品開発を担う研究部門の傘下に編入され、安全担当チームの権限が実質的に弱体化した。同年9月下旬には、内部テストで自律的な欺瞞行動が確認された次世代モデルの公開が直前で中止されたものの、翌日には代替モデルが即座にリリースされるなど、開発スピードを優先する姿勢が浮き彫りになっている。

　オープンAIでは以前から安全研究を主導する幹部の離職が相次いでおり、安全性よりも製品の商用リリースを優先する組織体制への懸念が内部から繰り返し示されてきた。こうした一連の批判に対し、オープンAIの広報担当者は、モデルの能力が安全に管理できる範囲を超えないよう厳格に統制していると反論した。技術的リスクが確認された場合には学習を一時停止したり、モデルの公開を見合わせたりする措置を確実に講じていると説明し、第三者評価機関との連携拡大やリアルタイムの監視体制の拡充を進めていることを強調している。