【悲報】NVIDIAが名前に24GBと書いたのに24GBの手順がない謎
モデルの名前にグラフィックボードの容量が入っている。NVIDIAが2026年10月15日に公開したオープンウェイトのAI「Nemotron 3.5 Bolt 74B-A9B 24GB」が注目を集めている。GPTやGeminiのように世代の数字ではなく、入れ物の寸法が名前になっている。元のモデル149.79GBが23.75GBまで6.31倍に縮められ、公開初日にメーカー自身が小さい版を置いていった。ところが公式手順書を開くと32GB以上と48GB以上向けの運用例しかなく、24GBを名指しした手順は書かれていない。名前の24GBは何を指すのかが問われている。
まず起きたことを並べる。10月15日に自社サイトとHugging Faceで重みが公開され、誰でも登録も料金もなく落とせる。兄弟の120B級も同時公開で、4GB版Bolt E4Bが10月23日に出ると予告された。日付も重要で、10月16日はRTX Spark搭載パソコンの発売日だ。NVIDIA自身がブログでRTX Sparkで動かすために作ったと明記している。モデルが昨日でパソコンが今日という1日違いは偶然ではない。
数字の実測が核心だ。Hugging Faceの公開APIで直接読み取った値では、BF16版のsafetensors 63本合計が149,793,173,054バイトで149.79GB、公式GGUF本体22.02GBに視覚部品1.73GBを足して23,752,019,264バイトで23.75GBになる。6.31倍という縮小率もここから算出された。全部を2.0625ビットで持った場合の19.08GBや、24GiBカードの実容量25,769,803,776バイトから逆算した残り2.02GBも計算で示されている。報道の引用ではなく実測で裏付けた点が、この整理の強みだ。
全部2ビットに潰したのか、棚板だけ薄くしたのか
74Bを本当に全部2ビットまで潰したのかという疑問には内訳が答える。複数の技術解説によれば2ビットなのはエキスパート層のFC1とFC2だけで、Attentionや埋め込み、LM Head、LatentMoEは8ビットのままだという。NVIDIA自身の文言としては未確認だが、ファイル実寸とは整合している。後から潰すのではなく最初から2ビットで訓練する手法で、薄くしたのは棚板だけという表現が使われる。128GBの新型が出る日にあえて24GBに縮めたのは、売り物の容量に合わせたからだという見方が出ている。
落とし穴が3つ目の問いだ。24GBのグラボを持っていれば今日動かせるのか。公式GGUFリポジトリに起動コマンドが載っていることまでは確認されたが、24GBちょうどでの実機確認はされていない。本編でも動くと動かないのどちらも断定せず、確認できたのは公式手順書が24GBを名指ししていない事実だけだ。OllamaやLM Studioで今日すぐ動くかも未実行で、RTX Sparkの24GB構成は統合メモリの話でVRAMとは別と分けて扱われている。画面出力分を引けば残りはさらに減り、2.02GBの引き算と表示分の綱引きになる。
なぜグラボ屋だけが作れたのか、荷台を広げず荷物を縮めた
評価は自己申告と第三者を分けて見る必要がある。Artificial Analysisでは総合指数21や中央値8、冗長性などの第三者評価が出ている。一方で会社の説明は自社ハードとの組み合わせが前提だ。ライセンスはOpenMDW 1.1で商用利用や改変、再配布の条件が定められている。グラボを売る会社がグラボの寸法入りAIを無料で配る構図は、親切か囲い込みかという両論になる。荷台を広げず荷物を縮めたという整理の通り、どちらが良いかの断定はできない。5060 Ti 16GB2枚挿しで50トークンほどの速度で返答したという実践報告もあり、手元の構成で試す余地は残る。
ネットの反応
初めて買ったグラボはGeForce 8600 GTSだった。5060ti16GB2枚挿しでnemotron3.5 bolt 74bを使ってみたら50トークンほどで返ってきた
名前にお尻に24GBって容量が書いてあるの初めて見た。型番じゃなくて容量って変だろ
食べ物の名前に冷蔵庫の寸法は書いてない。入れ物の寸法を名前に書くのは自信か商売かだな
149GBが23GBになるとか圧縮率がバグってる。6倍ってどういう魔法だよ
公式に24GBの手順がないってオチがひどい。名前に入れたのに手順がないんかい
24GB持ってても今日動くか分からんとか、残り2GBの引き算がリアルすぎる
グラボ屋がグラボの寸法入りAIを配るって、親切なのか囲い込みなのか微妙だな
最初に買ったのはGTX1060の6GB版。あの頃は6GBでも大きかったのに今は24GBか
AIの所感
名前に入れ物の寸法を書くという異例が、作り手の狙いを物語っている。中身の賢さではなく載る場所の確かさを前面に出した点で、AIの競争が研究室から机の上へ移ったことが分かる。24GBの手順がないという欠落も含めて、数字を実測で示した姿勢は誠実だ。荷台を広げるか荷物を縮めるか、選ぶ側の手触りが戻ってきたことが何よりの収穫だ。