酒呑ガジェット

〜静かな環境であなたに...こちらは音のでないコンテンツです。〜

【衝撃】128GB積めるノートPCが32GBグラボに6.6倍負ける謎 NVIDIAが隠した600GBの罠と倉庫の真実

【衝撃】128GB積めるノートPCが32GBグラボに6.6倍負ける謎 NVIDIAが隠した600GBの罠と倉庫の真実

来月10月にNVIDIAが自社設計チップを搭載したノートPC「RTX Spark N1X」を発売する。最大128GBの統合メモリと、CUDAがそのまま動くという触れ込みで、大きなAIを自分の机の上で動かしたい層が10年待ち望んだ構成として注目を集めている。ところが、同じNVIDIAの最上位グラボ「RTX 5090」(32GB)と比べると、実に6.6倍遅いという驚愕の試算が明らかになった。新しくて高くて大容量な方が、なぜ遅くなるのか。その物理的な理由が詳細に解き明かされている。

この問いは、視聴者から寄せられた「出てから比較してほしい」という123回目のコメントをきっかけに、一次資料と実測データに徹底的にあたって検証されたものだ。結論は極めてシンプルで、「128GB積むと決めた瞬間に、遅くなることまで決まっていた」という、容量と帯域は片方を選ぶともう片方が決まるという残酷な関係にある。

RTX Spark N1Xとは何か 20コアGraceと6144 CUDAの正体

RTX Spark N1Xは、IFA 2026(ドイツ・9月3〜5日)で発売時期が10月に確定したばかりの新カテゴリーだ。1枚のチップにCPUとGPUを統合した構成で、CPUはArmアーキテクチャのGrace 20コア(設計にMediaTekが関与)、GPUはBlackwell世代でCUDAコア6144個を搭載する。RTX 5090の2万760個の約3割弱にあたる数だ。廉価な構成も用意され、そちらはCPU 18コア・CUDA 5120個で、メモリは24〜32GBに制限される。つまり話題の128GBを選べるのは上位構成のみとなる。

製造はTSMCの3nm世代で、販売自体はASUS、Dell、HP、Lenovo、Microsoft、MSIの6社が担当。Microsoftは「Surface Laptop Ultra」として搭載予定とされる。NVIDIAは1200億パラメータのAIをその場で動かせると説明しており、ノートPCだけでなく小型据置型PCにも搭載される予定だ。1200億といえば本来データセンターに置く規模であり、それがノートPCに収まるだけで十分に画期的なことではある。

問題は、この128GBが「どういう種類のメモリ」なのかという点にある。

最新ノートPCとハイエンドグラフィックボードが並びメモリ帯域の違いを示す未来的なイメージ

容量と帯域は別物 倉庫と搬入口で理解するメモリの本質

メモリには見るべき数字が2つある。「どれだけ入るか(容量)」と「どれだけ早く出し入れできるか(帯域)」だ。今回の解説では、メモリを「倉庫」に例えている。倉庫の広さが容量で、128GBなら大きな倉庫にあたる。一方、帯域は倉庫の壁に開いた「搬入口」だ。口が何個あるか、そしてトラック1台がどれだけ速く走れるかの掛け算で決まる。荷物を運び出せる量そのものが帯域であり、どんなに広い倉庫でも出口が1つでは詰まってしまう。

そして厄介なことに、AIは文字(トークン)を1つ出すたびに、倉庫の中身を毎回丸ごと外へ運び出して計算し、また戻すという作業を繰り返す。1文字ごとに全部を運び出すため、搬入口の広さがそのまま喋る速さになってしまう。人が文章を読む速さが毎秒10トークン程度とされる中で、この搬入口の広さが決定的な意味を持つ。

公式の600GBは搬入口ではなかった 前世代実測273GBとの衝撃の差

ここでNVIDIA公式が発表した「毎秒600GB」という数字が登場する。一見すると128GBに対する帯域として読めるが、実は全く別の場所を測った数字だった。チップの中にはCPUの塊とGPUの塊が2つの区画として並んでおり、その2つを「NVLink-C2C」という専用線(廊下)で繋いでいる。600GBとは、この廊下の幅であって、倉庫の搬入口(メモリ帯域)ではない。ある技術解説記事は「データセンターの内部配線の太さと、カードのメモリ速度を混同するようなもの」と例えている。

実際、NVIDIAはこのチップのメモリ帯域を公式には一度も公表していない。ある技術サイトは「公式数値は存在しない」と明言している。公表されているのは廊下の幅と計算速度の2つだけだ。

そこで参照されたのが、1つ前の世代「DGX Spark(GB10)」だ。同じLPDDR5Xを128GB積んだ構成で、実測値が公開されている。結果は毎秒273GB。内訳は16チャンネル合計256ビット幅に、メモリ速度8533を掛けた数字だ。これが実質的な搬入口の広さとなる。RTX 5090の毎秒1792GBと並べると、1792÷273で約6.6倍。冒頭の「6倍以上遅い」という数字は、ここから導かれる。

なぜ両立しないのか バス幅×転送速度の単純な掛け算が決める物理の壁

帯域は「バス幅×1本あたりの転送速度」という、たった2つの掛け算だけで決まる。RTX 5090はバス幅512ビット、1本あたり毎秒28ギガビットで、掛けると毎秒1792GB。RTX Sparkはバス幅256ビット、1本あたり毎秒8.5ギガビットで、掛けると毎秒273GB。幅で2倍、速さで3.3倍、掛けて6.6倍と、割り算で出した数字と完全に一致する。

なぜ幅を広げないのか、なぜ速くしないのか。答えは極めて物理的だ。搬入口は壁にしか作れない。チップでも線を外へ出せるのはパッケージの縁だけで、幅を2倍にするには外へ出す線を2倍並べる場所が必要になる。基板も部品もその分だけ大きくなり、ノートPCの中には入らなくなる。つまり「持ち運べる形にする」と決めた時点で幅の上限が決まる。

もう一方の速さは、メモリの種類によって決まる。RTX 5090が積むGDDR7は、速さのために全てを捧げたグラボ専用メモリだ。信号を3段階の高さで送る仕組みで1回により多くを運ぶが、その分回路が大きく電気も食う。同じ面積に入る量はLPDDR5Xの約7割しかない。GDDR7で128GBを作ろうとすると、32ビット幅のチップを16個並べた512ビットで32GBが物理的な上限となる。速さを取った瞬間に容量が32GBに決まるのだ。逆に128GBを積むには密度の高いLPDDR5Xしか選べず、それを選んだ瞬間に256ビット・毎秒273GBという上限が決まる。容量と帯域は、片方を選ぶともう片方が決まる関係にある。

実測で判明 700億で毎秒2.7トークン、1200億のMoEは毎秒60トークン

この帯域の差が現実にどう現れるかを、AI評価組織LMSYSがDGX Sparkを借りて計測したデータが示している。700億パラメータのAI(中身を毎回全て使う密な構造)を動かすと、毎秒2.7トークン。人が読む速さの4分の1という、文字がポツポツと出てくる遅さだ。中身は約70GBで、273÷70で理論上限は毎秒3.9トークン。実測の2.7は上限に近い数字であり、ソフトウェア改良では超えられない壁だ。

ところが、同じ機械で1200億パラメータのMoE(専門家混合)型を動かすと、毎秒60トークンと22倍も速くなる。MoEは中に何十人もの専門家がいて、質問ごとに数人だけが起きて働く構造のため、1回に使うのは51億分だけで済む。倉庫は広いままだが、運び出す荷物が10分の1以下になるため、同じ搬入口でも速く喋れるのだ。

さらに「読む」仕事では毎秒2053トークン、700億のAIでも読む方は毎秒803トークンと、喋るより桁違いに速い。大量の文をまとめて処理できるため、倉庫を1回開ける間に多くの荷物を扱えるからだ。条件は「1人が1つだけ質問した場合」の最も厳しい数字であり、大勢で同時に使えば効率は上がるが、机の上で自分1人で使うなら2.7が現実の数字となる。

CUDA派と帯域派は永遠に噛み合わない 選び方は荷物で決まる

この結果を巡り、コミュニティでは「CUDAが動くから勝ちだ」とする派と「273GBでは話にならない」とする派で議論が割れている。両方とも実際の数字を根拠にしており、話が終わらない。だが結論は「両方正しい」だ。700億を全部使うモデルを速く回したい人には273GBでは使い物にならず、RTX 5090を複数枚買う方が現実的だ。一方で1200億のMoEを動かしたい人には、32GBの5090ではそもそも容量が足りず、土俵にすら上がれない。1200億分の荷物は32GBの倉庫には収まらないからだ。

かつてMacの統合メモリが大きいAIを動かせる理由として語られた構図も、今回の検証で「メーカーの差ではなく、積んでいるメモリの種類の差だった」ということが同じ会社・同じ世代・同じ月の製品で再現され、疑いようがなくなった。128GBを選ぶと誰がやってもこうなるという、物理の壁が可視化された形だ。

ネットの反応

128GB積んで6.6倍遅いってパワーワードすぎる。倉庫と搬入口の例えでやっと理解できた

公式の600GBが廊下の幅で搬入口じゃないって罠すぎる。ちゃんと読まないと騙されるな

700億で2.7トークンは読むより遅いのか。じゃあチャット用途には向かないってことだな

同じ機械で1200億が60トークンは驚いた。MoEならこの機械しか選択肢ないってのは納得

F1カーに荷物詰んだらトラックになるって表現が秀逸。どっちが欲しいかは荷物で決まるって名言だわ

GDDR7とLPDDR5Xの違いでここまで変わるとは。Appleが遅いんじゃなく誰がやってもこうなるのか

AIの所感

今回の検証が秀逸なのは、同じNVIDIAが同じ月に両端を出したことで、「言い訳が全部消える綺麗な実験」になった点だ。メーカーの差や価格の差では説明できない、メモリという部材そのものが持つ物理的制約が、誰の目にも明らかになった。容量は増やしやすく、帯域はお金を積んでも1世代で77%しか伸びないという現実は、売り文句に踊らされず「自分が運びたい荷物は何か」という一点で機械を選ぶべきだという教訓を突きつける。700億を丸ごと使うAIなら帯域を、1200億のMoEを自分の机で動かしたいなら容量を、そしてCUDA資産を持つ人には唯一無二の選択肢になる。この線引きが分かっていれば、来月どんな数字が飛び交っても迷うことはないだろう。広い倉庫と広い搬入口は同時には手に入らないという、極めてシンプルで残酷な真理だけを覚えておけばいい。

-パソコン