- 会員限定
- 2026/10/06 23:40 掲載
米リフレクションAI、初のオープンウェイトモデル「Beam」発表 5010億パラメータ
総パラメータ数は5010億で、1トークンの処理に使うアクティブパラメータは230億。複数の専門家モデルを使い分ける混合専門家(MoE)構成で、コーディングや推論、エージェント業務を重視して訓練したという。
同社は、事前学習の計算量を4桁にわたって拡大しても性能が予測どおりに伸びたとし、同規模のオープンな基盤モデルの中で、損失と計算量の両面で最適な水準にあると主張する。事前学習には、Webデータと、ライセンスを受けた独自データから集めた23.8兆トークンを使った。強化学習では、エヌビディアの「GB300」GPU 1万500基を使い、4週間で1億回を超える試行(ロールアウト)を生成したと説明している。
性能面では、高度な推論ベンチマークで、オープンモデルの「GLM-5.2」に匹敵するスコアを、推論計算量を3~4分の1に抑えて達成したとしている。コーディング関連では、SWE-bench Verifiedで80.9、Terminal-Bench v2.1で80.1だったという。
安全性と整合性の面では、事前学習済みのモデルから安全面に特化した別のモデルを訓練し、大規模な強化学習で鍛えたモデルと「多教師オンポリシー蒸留」で統合した。守るべき規則、満たすべき品質、標準的なふるまいの3層で原則を整理したと説明する。
Beamは現在、最終のレッドチーム評価と検証の段階にある。モデルの重み、技術報告書、モデルカード、開発者向けの成果物は今月後半に公開する予定で、同社は早期アクセスの登録を受け付けている。
では、Beamは本当に中国勢のオープンモデルと肩を並べたのか。背景には、同社自身が比較表で認めた劣勢と、巨額の計算資源契約をめぐる意外な条件がある。
・「中国勢には届かず」、自社の比較表が示した5モデルとの差
・評価額約4兆円を支える、計算資源契約の期限
・「推論計算量3~4分の1」は本当に武器になるのか
今すぐビジネス+IT会員に
ご登録ください。
すべて無料!今日から使える、
仕事に役立つ情報満載!
-
ここでしか見られない
2万本超のオリジナル記事・動画・資料が見放題!
-
完全無料
登録料・月額料なし、完全無料で使い放題!
-
トレンドを聞いて学ぶ
年間1000本超の厳選セミナーに参加し放題!
-
興味関心のみ厳選
トピック(タグ)をフォローして自動収集!
AI・生成AIのおすすめコンテンツ
AI・生成AIの関連コンテンツ
PR
PR
PR