オープンAI、LLM推論特化の独自AIチップを発表…ブロードコムと共同開発

　オープンAIとブロードコムが共同開発した「Jalapeno」は、大規模言語モデルの推論処理のためにゼロから設計された専用アクセラレータである。既存の汎用AIチップの転用ではなく、ChatGPTやAPIなどで発生する推論ワークロードに特化している。

　設計にはオープンAIのモデルが活用され、初期設計からテープアウトまで9カ月で完了した。ブロードコムはシリコン実装とネットワーク技術を提供し、セレスティカがボード、ラック、システム統合を担う。

　エンジニアリングサンプルはすでにラボ内で稼働し、量産時の目標周波数と電力で機械学習ワークロードを実行している。初期のテスト結果について、ブロードコムのホック・タンCEOは、現行世代のGPUと比較して1トークンあたりの推論コストを約50％削減できるとの見方を示したという報道もある。

　オープンAIは現行のハードウェアを大幅に上回るワット当たり性能を達成する見込みと報告しており、数カ月以内に詳細な技術レポートを公開する。導入スケジュールとしては、2026年末に初期展開を始め、数年かけてパートナー企業と共同構築するデータセンターにギガワット規模で配備される予定だ。本チップが外部顧客向けに一般販売されるかどうかは、明らかにされていない。