Qwen3.8にFreeToken…API料金ゼロでLLMが動く「4つの新技術」のスゴい中身を徹底解説

ローカルLLM激変の裏にある「最新技術」とは

　ローカルAI（LLM）が激変中だ。毎週のように新しい技術や製品が現れて常識を塗り替えていく。少し前まで、ローカルLLMは一部のハイエンドPCユーザーだけのお遊びだったが、最近はミドルクラスPCでもまあまあな性能が出るようになった。

　その原因は、GPUのVRAMの呪縛が解け出していることだ。かつては24GBや32GB以上の巨大VRAMを積んだハイエンドGPUカードが必須だったが、今は16GBや8GBという入門クラスのGPUでもローカルLLMが実用的な性能で動くようになってきた。

　LLMの中を複数に分割して必要なところだけ使う「MoE」や、精度を下げてサイズダウンする「量子化」などの技術が日々進化してきたからだが、2026年8月にはさらにドラスティックな改革があった。その最新技術の秘密を明かしていこう。

中華製Qwen3.8の“省メモリ設計”がスゴかった

　最初の主役は、2026年8月14日に公開されたQwen3.8-27Bだ。中国アリババのAI研究部門が開発するオープンモデルで、名前の27Bは270億パラメータを意味する。パラメータとは、AIの知識や判断を数値として蓄えた部品であり、多いほど賢くなる。その分、計算とメモリの負担も増える。

　このモデルはDense（デンス）と呼ばれるオーソドックスな方式だ。Denseとは、1語を生成するたびに全パラメータが計算へ参加する構造だ。会社に例えるなら、270億人の社員全員が毎回同じ社屋で働く組織みたいなものだ。シンプルな構造で性能を出しやすい反面、規模が大きくなるほど毎回の計算が重くなる。本来はあまりローカルLLM向きでない。

　Qwen3.8-27BがDense構造なのにローカルLLMとして注目されたのは、Attention（アテンション）の使い方を変えたからだ。Attentionとは、出力する文章の次の語を予測する際に、過去の文章全体を見渡し、関係の深い部分を探し出す仕組みだ。現代の「生成AI」を支えるコア技術だ。

　
　Attentionは、文章が長くなるほど、計算量と記憶量が急速に膨らむ弱点がある。Qwen3.8-27Bは64層ある処理のうち3/4を、過去を要約して覚えておく軽量方式に置き換え、4層に1層だけ本来のAttentionで全文を精査するという効率化を図った。普段は要点だけ記憶し、定期的に原文を読み直す読書法みたいなものだ。

　この工夫により、26万トークン超（トークンとはAIが文章を扱う単位で、日本語ではおおむね1～2文字にあたる）の長い文脈、画像や動画の理解、ツールを操作するエージェント処理までを27B級に収めた。Qwen3.8-27Bはローカルで動くが、目を持ち、長文を読み、道具を使う高度なAIなのだ。 【次ページ】LLMを「3分の1以下」にしても賢さ維持？進化版「量子化」の仕組み