- 2026/10/02 01:40 掲載
光で「メモリの壁」崩す新興ボランティスが138億円調達、20兆パラメータAIを高速推論
同社が開発するのは、AI推論専用のシステム「A-1」。20兆パラメータを超える大規模モデルを、ユーザー1人あたり毎秒最大1万トークンの速度で動かせるよう設計中で、トークンあたりの推論コストも下げるとしている。
狙うのは、AIの「メモリの壁」の解消である。大きなモデルを高速に動かすには、大容量のメモリと、演算器へデータを送り続ける広い帯域幅の両方が要る。しかし、チップ内のSRAMは帯域幅が広い一方で容量が小さく、HBM(広帯域メモリ)を使うGPUなどは容量が大きいものの帯域幅が速度の上限になる。新しい3次元DRAMでも同じトレードオフは残るという。
そこで同社は、演算チップとメモリをつなぐことに特化した光インターコネクトを開発した。光ファブリックで多数のメモリチップを1つのプールとしてつなぎ、メモリを増やすほど帯域幅も積み上がる構成で、安価なチップ外のメモリを使えるという。A-1ではこれにより、容量と帯域幅をともに約2桁引き上げる計画だ。
同社は、コーディングエージェントの作業が30分から2分に縮まれば、開発者は試行をより多く回せると説明する。調達資金はA-1と光メモリ技術の開発・商用化、エンジニアの増員に充て、2027年に最初の推論エンジンを顧客へ届ける予定だ。
AI・生成AIのおすすめコンテンツ
AI・生成AIの関連コンテンツ
PR
PR
PR