【朗報】「355GBのAIがグラボ無し75GBで動く」そのカラクリ、51Bの“計算しない表”が正体だった
2026年8月27日の未明、AlibabaのQwenチームが「Qwen3.8-Flash-Next」を重みごと公開した。仕様表を開いて多くの技術者が手を止めたのは、その大きさではなく内訳だった。本体125B（活性6B）に加え、「51BのN-gram埋め込み」という見慣れない行が並んでいる。この51Bは動かすときにほとんど計算されない。掛け算ではなく引き算のような「表引き」だからだ。そして計算しない部品は、GPUの隣に置いておく必要がない。そのためBF16で355GBあるモデルが、グラボのVRAMなし・75GBで動くと言われている。
51Bの正体は1980年代の統計手法
N-gramとは、1980年代からある古い統計手法だ。この場合、2000万エントリぶんの表が51Bの正体になる。掛け算は増やした分だけ計算が増えるが、表は引くだけなので、分厚くしても手間は変わらない。だからvLLM（推論エンジン）は環境変数ひとつでその表をホストメモリへ逃がせるし、さらにSSDへ置くことさえできる。必要メモリは、BF16で355GB、8bitで270GB、4bitで112GB、3bitで90GB、2bitで79GB、1bitで75GBと試算されている。
「2bitと1bitの差が4GBしかない」が証拠
興味深いのは、2bitと1bitの差がわずか4GBしかないことだ。通常なら極限まで圧縮すればもっと差が出るはずだが、このほんのわずかな差こそが、「51Bの表は削られていない」ことを示している。つまりモデルの知識の大部分を占めるこの表は、量子化の対象にならず、そのままの形でメモリに置かれる。計算しないからこそ、GPUの演算資源を消費せずに済むわけだ。
速度や、1bitまで削ったときにどれだけ賢さが落ちるかは公表されていない。動画側も「分からないものは分からない」と正直に断っている。ただ、仕組み自体は明快だ。「計算は高く、記憶は安い」――この構造を理解すれば、自分の機材で動くかを自分で判定できるようになる。96GBのRAMや統合メモリがあれば狙い目で、64GBでは厳しく、GPUがあればなお良いという線引きだ。
誰が測った数字か、という注視も
掲載されたベンチマーク（SWE-bench Pro 62.5、GPQA Diamond 91.7、LiveCodeBench v6 91.9など）は、すべてQwen自身が測った自社発表だ。第三者による独立評価は現時点で報じられていない。ライセンスも「qwen-community-1.0」で、ApacheでもMITでもない。こうした「自社申告であること」の注記を、動画は丁寧に行っている。情報の信頼度を分けた仕分けは、AI事情を追う上で今や必須のリテラシーといえる。
ネットの反応
1年半前にAI用にVRAM積む代わりにRAMを96GB積んでほとんど役に立ってなかったのが、急に推奨構成になってちょっとうれしい。
VRAM問わずとはいえ、メインメモリが75GBはメモリ高騰のこの時代にはきついね。
Strix Haloで96GB積んでるので後で試します。ただ今メモリに置いてある他のウェイトを解放しなきゃいけないのが実運用上のネックかな。
appleがM4から完全にlocal LLMが推論レベルで一線を超えていて、この方向のニュースはnvidiaの株価に影響与えうるかなと。
中国すごいわ…。
AIの所感
「計算しない部品を外に追い出す」というこの設計は、LLMの常識を静かに揺さぶっている。これまで巨大モデルといえば「GPUのVRAMが必要」が前提だったが、知識の多くを表引きという安価な形に変えることで、その前提が崩れつつある。もちろん自社ベンチの評価待ちという注記は重く、実効速度も不透明だ。それでも「計算は高く、記憶は安い」という単純な真理を上手に突いたこのアプローチは、ローカルAIや統合メモリ搭載マシンの将来を考える上で、非常に示唆に富む一手だ。