米エヌビディア、英国のAIエージェント安全研究に5年で2.5億ドル相当の計算資源を提供

　米エヌビディアは10月13日（現地時間）、英国のAIエージェントの安全・セキュリティ研究を支援するため、5年間で総額2億5,000万ドル（約395億円）相当の計算資源を提供すると発表した。年間では5,000万ドル（約79億円）分の計算資源にあたる。

　提供する計算資源の大半は、英国のAI安全・セキュリティ研究コミュニティ全体に充てる。一部は、オックスフォード大学が主導する「BOLD」、ユニバーシティ・カレッジ・ロンドン（UCL）が主導する「SOFAIR」、インペリアル・カレッジ・ロンドンとの取り組みに配分するという。

　計算資源は、英国を拠点とするエヌビディアのクラウドパートナーを通じて提供する。インフラは英国内に置き、国内の計算基盤を支える狙いだ。ただし、事業者の選定、技術構成、商用条件は今後詰めるとしている。

　研究では、安全なエージェント、オープンモデルの安全性、実環境での脅威対策を重点分野とする。安全な実行環境（サンドボックス）や再現可能な研究、安全性評価のベンチマークも支援する。エヌビディアのオープンな安全実行基盤「NVIDIA OpenShell」や、リファレンスデザイン「NVIDIA Sentry」を使った研究も含まれる。成果は、より広いコンピューティングのエコシステムの安全対策に生かす考えだ。

　ジェンスン・フアンCEOは「AIの能力と安全性は、ともに進歩しなければならない」とコメントした。「英国は、この重要な工学的課題に世界水準の科学的厳密さをもたらす」とも述べている。英国のカニシュカ・ナラヤンAI担当相は「この取り組みは、AI研究における英国の世界をリードする強みと専門性への信任の表れだ」と語った。

　今回の取り組みは、英国の研究コミュニティとの協力の延長線上にある。ブリストル大学のスーパーコンピューター「Isambard-AI」（NVIDIA Grace Hopper Superchips搭載）でも協力してきた。エヌビディアは10月8日にも、米国の科学の発展に5年で10億ドル（約1,580億円）相当の取り組みを行うと発表している。