ソフトバンクがAIデータセンター向けGPUクラウド提供開始

　ソフトバンクが展開する「AIデータセンターGPUクラウド」は、自社開発のAIデータセンター向けソフトウエアスタック「Infrinia AI Cloud OS」を基盤としている。同社が掲げる成長戦略「Activate AI for Society」の要となるネオクラウド事業の一環として構築された。計算基盤には「NVIDIA GB200 NVL72」などの最新鋭GPUを採用し、NVIDIA NVLinkを介した通信と高性能ストレージを組み合わせることで、大規模言語モデルの開発など計算資源を要する学習用途から、応答速度が求められる推論用途まで幅広く対応する。5月25日からはベータ版として、ソフトバンク本体およびグループ企業内で実運用を開始している。


　システムの運用面では、マルチテナント環境に対応したKubernetes as a Serviceを利用できる。コンテナ技術によって開発環境の変更やスケーリングといった作業を一元的に自動管理し、障害発生時の自動復旧を含めてインフラ運用の負荷を引き下げる。さらにモデル推論環境をAPIとして提供するInference as a Serviceを備え、独自開発のAIモデルや任意のモデルを選択するだけで推論環境を迅速に構築できる。利用企業は自社で独自開発する場合と比較して、インフラの総所有コストや運用にかかる負荷を抑えつつ、安定した生成AIの運用環境を確保できる。

　同社は今後の展開として、通信ネットワークとAI計算基盤を融合させる「Telco AI Cloud」構想の実現を掲げている。今回提供を始めるGPUクラウドと、基地局にAI処理機能を持たせるAI-RANを統合し、AIの計算処理を学習から推論まで最適化する計画だ。日本国内での安全なデータ管理を前提に、遅延の少ない高信頼のデータ通信を実現するとともに、データのソブリン性を備えた分散型AIインフラの確立を推進していく。