酒呑ガジェット

〜静かな環境であなたに...こちらは音のでないコンテンツです。〜

【朗報】70万円のRTX 5090に載らないAIが、59万円のMac Studioで「削らずに」動いてしまう件——ローカルAIの選び方が変わる「広さと速さ」の話

【朗報】70万円のRTX 5090に載らないAIが、59万円のMac Studioで「削らずに」動いてしまう件——ローカルAIの選び方が変わる「広さと速さ」の話

「AIを動かすなら高性能なグラフィックボードを買うべき」。多くの人がそう考えている。しかし、調べてみると驚きの事実がある。個人向け最上位のRTX 5090(実売70万〜73万円)のメモリに載らない巨大なAIが、約59万9800円のMac Studio(64GB構成)なら「削らずに」そのまま動いてしまうのだ。速いはずのハイエンドGPUより、地味な見た目のMacの方が大きなAIを扱える。その理由は、メモリの「広さ」と「運ぶ速さ」が別物だからだ。

同じグラボが「約60倍遅くなる」瞬間——乗るか乗らないかだけの違い

まず、AIを自分のパソコンで動かすとは「AIの本体(数十GBの巨大ファイル)をメモリに全部読み込んでから動かす」ことだ。メモリは作業机のようなもので、広げきれなければ作業にならない。高速なメモリ帯域(1秒に運べる量)があれば文字はスムーズに出るが、それは「AI全部が机に乗っている時だけ」の話。はみ出した分はパソコン側のメモリに追い出され、そこから取ってくる「廊下」が細くて激しく遅くなる。

700億パラメータのAIを動かした実測報告を見てみよう。RTX 5090は負荷が乗っていれば毎秒72トークン。Mac Studioは毎秒15トークン。グラボの圧勝だ。ただし、これは不公平な比較で、グラボ側はAIを26GBにまで強く圧縮して32GBメモリに「なんとか押し込んだ」条件。逆に、削らないバージョン(75GB)をRTX 5090に乗せると、溢れて毎秒1.2トークンまで落ちる。実に約60倍の落差。毎秒1トークンは、漢字1文字が出るのに1秒かかる感覚だ。24GBの持ち味を持て余したまま、ほとんど動かない状態になる。

巨大AIモデルがメモリの机から溢れて速度が激減する様子、メモリ帯域1792GB毎秒のGPUと統合メモリの違いを対比するイラスト

普通のパソコンは「メモリが2か所」、Macは「部屋が1つ」だけ

ここが構造的な違いだ。普通のパソコン(Windows)は、本体のメモリとグラボ上のVRAMの2つの「部屋」に分かれており、細い廊下(PCIeバス)で繋がっている。AIは狭いVRAMの部屋にいないと速く動けないが、その部屋は32GBしかない。はみ出すと廊下の往復が発生する。

一方Macは「ユニファイドメモリ(統合メモリ)」といって、部屋が1つしかない。計算するCPUも絵を描くGPUも、同じメモリを直接見る。廊下がないからそもそも往復が起きないし、はみ出す前の部屋がそもそも大きい。1番安いMac Studioでも36GBと、RTX 5090の32GBよりすでに広い。64GB構成なら700億パラメータのAIが「削らずに」そのまま乗り、遅くても一定の速さで動き続ける。「床に取りに行く」ことがないからだ。

一般的なPCの2つに分かれたメモリと、Macの統合メモリの構造を比較する断面図、廊下の有無がAIの速度を左右するイメージ

値段の逆転——メモリ4GB多いMacが「実質6割」の価格

価格も状況を裏打ちする。RTX 5090は昨年11月から約4割も値上がりし、実売70万〜73万円。それでもメモリは32GBのまま。一方、Mac Studioの最安構成は36GBで41万9800円。値段はおよそ6割なのにメモリは4GB多い。64GB構成なら59万9800円で、グラボより安くて倍も乗る。

しかし、ここで冷静になる必要もある。Macはメモリ帯域で負ける。RTX 5090が毎秒1792GBに対し、Mac Studio上位は819GB、下位は546GBと3倍以上差がつく。つまり「両方に乗るサイズのAI」ならグラボの圧勝であり、小さいAIを動かすだけなら10万円台のグラボの独壇場だ。Macが有利になるのは「大きなAIを削らずに、静かに、電気代も抑えて」動かしたいという、割と限定的な場面。加えてMacのメモリはOSやアプリも同居するため、全部をAIに使えるわけでもない。

メモリ高騰の波はMacにも——最大512GB構成が消えた

気になる変化もある。Mac Studioは発売当初、最大512GBのメモリを選べたが、今年3月に512GB構成が消え、その後256GBも消滅。今は96GBが上限だ。価格も6月改定で96GBモデルが66万8800円から89万9800円へ、23万円も値上がりした。グラボの高騰と同じ理由——AI用サーバーが世界中でメモリを買い占めているためだ。どちらに逃げても同じ状況で、「買うなら早い方がいい」とも言える。

100億円を超える選択の基準——「乗る機械を選ぶ」

まとめると単純明快だ。「早いGPUを選ぶ」のではなく「乗る機械を選ぶ」こと。動かしたいAIの大きさを先に決め、それより広い机を持っている機械を選べば、60倍の落とし穴は踏まない。300億パラメータ程度のAI(15GB級)なら16GBグラボのRTX5060Tiで10万円台から始められ、これが最も現実的な入口。700億級(40GB以上必要)を削らずに動かしたいなら、Mac Studioや中古グラボ2枚差し(48GB)という選択肢が現れてくるのだ。

ネットの反応

統合メモリのMacに大きなデータは載せられるが、処理速度ではMetalとCUDAで大きな差がある。NVIDIAのRTX Sparkが出てから改めて比較してほしい。NVIDIAはF1カーでMacはキャンピングカーだな

電気代をどう取るかが結局大事だよな。グラボ2枚差しは電力も冷却も地獄だ

最近MacBook Airで構築したが、ぎりQwen3.5:9Bが動く程度で残メモリ100MBで他に何もできなくなったw

36GBなんてOS使ったらコンテキスト取れないだろ。AMDのRadeon AI Pro 32GB×2でROCmなら普通に動く

割高でもメモリ死ぬまで積んだ5090複数枚買った方がいい。CUDAが動かないMac Studioは割に合わない

AIの所感

この「広さと速さ」の整理は、ローカルAIユーザーの眉唾な勘違いを一掃してくれる。多くの人はGPUの帯域(速さ)だけを見て「Macは遅い」と切り捨てるが、肝心の「載るかどうか」を無視している。70万円のフラッグシップGPUが1.2トークンの世界に落ちる一方、半額のMacが一定の速度で最後まで走りきる——この非対称性こそが、AI特有の「容量が先、速度は後」という性質を示している。

一方で、この議論を「Mac最強論」に持っていくのも間違いだ。300億級の日常用途なら10万円台のグラボが最適解であり、Macの出番は限られる。本命はむしろ、CUDA互換で128GBメモリを積んだNVIDIAの小型AIボックス「RTX Spark」のような「両方のいいとこ取り」機だろう。メモリ高騰によるMacの構成縮小・値上げが示す通り、供給制約はどの陣営も逃れられない。だからこそ「自分の動かしたいAIの大きさ」から逆算して機械を選ぶ、という思考法がますます重要になっている。

-パソコン