- 会員限定
- 2026/11/12 07:10 掲載
【実機検証】120万円PCは不要？中華製「超巨大AI」が型落ちPCで動くワケ
「衝撃的すぎる」──。2026年10月、ある利用者がXにこう投稿した。VRAM 12GBのGPU「RTX 3060」で、約1,250億ものパラメーターを持つ大型AI「Qwen3.8-Flash-Next」が動いたのだ。しかも、約5分の1の規模のAIより速いという。これを実現したのが、推論エンジン「STRATA」だ。データセンター級のAIを家庭のゲーミングPCで動かすことを可能にした仕組みとは何で、私たちの実際の仕事にも使えるのか。筆者の古いPCで4つの業務を任せ、その実力を検証した。
1963年生まれ。Webコンサルタント、プロデューサー、編集者、ライター、エンジニア。90年代のIT雑誌を皮切りにWebクチコミサイト、SNS、電子書籍出版システム、ニュースメディアのグロースなどで、時代を先取りしてきた。
（筆者が作成）
中華製「無料AI」が凄すぎる…120万円級の高性能AIが「普通のPC」で動く？
2026年8月26日、中国アリババのQwenチームがFlash-Nextを公開した。誰でも無料で使えるオープンウェイトなAIだ。同社によると、プログラミングや事務作業の試験で、有料のクラウドサービスで提供してきた「Qwen3.7-Plus」を上回った。しかも、学習にかかったコストはQwen3.7-Plusの約9分の1だという。ただし、大きすぎた。人気推論エンジン「vLLM」開発元の検証では、データセンター向けのGPUを4～8枚並べた構成で動かした。強く圧縮してもファイルサイズは70GBを超え、最近のゲーム用GPUのメモリ（16～32GB）の数倍になる。8月末の時点では、家庭のPCで動かすための推論エンジンがまだ整備されておらず、従来のエンジンでは不具合や速度低下の報告が出ていた。
データセンター級のGPU 4～8枚で動かしてきたFlash-Nextを、STRATAは公開から1か月で、ゲーミングPC1台に持ち込んだ。10月には、同じ手法で321BのGLM 5.3 Flashを動かす「Project Maya」や、Mac向けのソフトも現れた
（筆者が作成）
その状況を覆したのがSTRATAだ。9月24日に公開され、最上位GPUのRTX 5090では毎秒120トークン以上が出るという情報に、SNSは沸き立った。トークン（語）はAIが文章を数える単位だ。開発側は、VRAM 12GBのGPUとメモリ64GBのPCでも、毎秒約80トークンが出るとした。
フロンティア級の賢いAIを手元で使うには、有料サービスを使うか、約120万円のDGX Sparkや、約400万円のMac Studio（M5 Ultra・メモリ512GB）のような高性能機を買う必要がある。しかし、STRATAを使えば、手持ちのゲーミングPCで賢いAIが無料で使えるかもしれない。 【次ページ】なぜ「125B」の巨大AIが動く？…「512人の専門家」を操る仕組み
AI・生成AIのおすすめコンテンツ
関連タグ
タグをフォローすると最新情報が表示されます
あなたの投稿
PR
PR
PR
