ソフトバンクの子会社で人工知能の研究開発を手がけるSB Intuitionsと情報通信研究機構は、高性能な大規模言語モデルの安全性技術に関する共同研究を2026年2月18日に開始し、同月26日にその概要を発表した。この共同研究は、高度な安全性と日本語における優れた性能を両立させることで、社会から信頼される人工知能の実装を目指すものである。
　
　生成AIの社会実装が急速に進む一方で、モデルの性能競争にとどまらず、実際の運用において安全性を担保できるかが企業や組織における導入の可否を左右する判断基準となっている。こうした状況を受け、国内有数の言語資源を保有する情報通信研究機構と、大規模な計算基盤を活用してモデル開発を推進するSB Intuitionsが連携体制を構築した。両者は学習データの構築段階からモデルの学習や性能評価、最終的な安全性確保に至るまでの一連のプロセスを共同で推進する。

　具体的な研究内容として、モデルが人間の価値観や倫理観に沿って適切に動作するよう調整するアライメント技術の開発に取り組む。同時にその安全性を客観的に測定するための新たな評価指標の策定も進める。モデルに対する入力文およびモデルが生成する出力文の双方に含まれる不適切な表現を自動的に検知し、フィルタリングやブロックといった制御を介在させるガードレール技術の研究も行う。予期せぬ有害な出力や不適切な情報の拡散を防ぐ仕組みの構築を図る。

　本研究における両者の役割は明確に分担されている。SB Intuitionsは自社が手がける国産大規模言語モデルの開発過程で蓄積した知見や、ソフトバンクの大規模な人工知能用計算基盤を活用する。同社はベースモデルの開発および学習作業を実行するとともに、アライメントやガードレール技術といった安全性確保に直結する技術の研究開発を主導する。

　情報通信研究機構は長年にわたる研究活動を通じて蓄積してきた膨大なテキストデータなどの言語資源をSB Intuitionsに提供する。モデルの安全性向上に直接寄与する学習データを質と量の両面から強化する。不適切な出力の検知や抑制に必要となる安全性の確保と評価を支える基盤技術の開発を担当する。情報通信研究機構が持つ研究資産と言語資源にSB Intuitionsの実装力と開発力を組み合わせることで、より高い安全性を備えた実用的な言語モデルの実現に向けた研究を加速させる。