【検証】「AI最速マシン」は存在しない──M5 Ultra対RTX 5090を4種目でガチ比較、エージェント時代は「メモリ容量」が正義だった
【検証】「AI最速マシン」は存在しない──M5 Ultra対RTX 5090を4種目でガチ比較、エージェント時代は「メモリ容量」が正義だった
「M5 MaxならRTX 4060を全面で圧倒、Ultraなら単体最速では?」「NVIDIAは速いけどエージェントで動かすとKVキャッシュが埋まって詰む」──コメント欄で対立したMac派とNVIDIA派の主張を、カタログスペックと実売価格(2026年8月29日時点)で4種目「書く速さ」「載る大きさ」「読む速さ」「エージェント持久走」に分けて検証した。結論から言えば「最速の1台」は用途で完全に分かれ、万能王者は存在しない。ただし新たな使い方「AIエージェント」では、メモリ容量が速度を上回る決定要因になり、M5 Ultra 512GB(94.9万円〜)が事実上の独走状態だ。
出場選手と「値段の暴力」──グラボ1枚がMac Studio超えの異常相場
まず土俵を確認。自分の機材を買う前提でクラウドは除外。選手は4台+参考2台。M5 Max(最大128GB/帯域614GB/s/41.98万円〜、最小36GB)、M5 Ultra(最大512GB/帯域1.2TB/s/94.98万円〜、最小96GB)、RTX 4060(8GB/272GB/s/約5万円)、RTX 5090(32GB/1.79TB/s/約86.7万円)。参考にDGX Spark(128GB/107.8万円)、RTX PRO 6000(96GB/約155万円、公式1.6万ドルへ値上げ報道)。

衝撃なのが価格崩壊だ。RTX 5090は6月約70万円から2ヶ月で15万円以上高騰。GDDR7を16枚搭載する設計がメモリ高騰の直撃を受けた。RTX PRO 6000も96GB積むが故に倍以上の値上がり。「グラボ1枚86.7万円+本体別」ならM5 Ultra 94.98万円(箱込み・96GB標準)が安く見える、という価格逆転現象が起きている。
種目1「書く速さ」:帯域÷モデル容量の理論値でRTX 5090が圧勝
32Bモデル(4bit量子化約20GB)でトークン生成速度の理論上限を算出。RTX 5090 約89 tok/s、M5 Ultra 約60 tok/s、M5 Max 約31 tok/s、DGX Spark 約14 tok/s。帯域最速の5090がトップ。ただし実測は理論比2〜4割落ちる。RTX 4060はモデルが8GBに収まらず失格(7B〜12B 4bitまで)。
種目2「載る大きさ」:M5 Ultra 512GBが桁違いの独走
メモリ容量そのものの勝負。4060 8GB、5090 32GB、M5 Max 128GB、M5 Ultra 512GB。4060は14B 4bit(約8.5GB)すら厳しい。M5 Ultraなら数千億パラメータ級まで力技で載る。Appleも「数千億を端末内で動作可能」と謳う。巨大モデル=賢さのトレードオフで、難易度高いタスクほど大容量モデルの安定感が効く。クラウド混雑時も自宅専用で待たされない。ここは文句なしでUltraの独壇場。
種目3「読む速さ」:暫定NVIDIA有利、だがM5世代で3〜4倍詰めた
プロンプト処理(プリフィル)速度。M3 Max対RTX 4090実測で約20倍差(行列計算専用回路の差)。M5世代では全GPUコアに専用回路(行列乗算アクセラレータ)を搭載し、Apple発表で「最初のトークンまでの時間(TTFT)が3〜4倍高速化」。20倍差に4倍改善でも届かないが、確実に縮めている。ただし実測値は発売(9月22日)まで存在せず判定保留。
種目4「エージェント持久走」:KVキャッシュという「作業メモ」が勝敗を分ける
ここが本番。エージェントは「聞いて答えて終わり」のチャットと違い、ファイル操作・テスト・修正を自律継続する。会話履歴(KVキャッシュ)が無限に膨らむ。32B級で1トークン約0.26MB。Claude Code標準ウィンドウ20万トークン=KV約50GB(FP16)。実作業で20〜30分で20万消費との報告あり。モデル約120GB+KV約50GB=計170GB必要。
ここで各選手の残容量を検算。RTX 5090(32GB)はモデル20GB積んだ残り12GBでKV約4.6万トークンまで。20万の1/4で序盤で詰む。圧縮(量子化)すれば18万まで伸ばせるが精度低下リスク。古いメモリ要約・捨てると細部忘却。読み直しならNVIDIAの高速プリフィルが生きるが、10万トークン読み直しで4090でも30秒の「税金」発生。一方M5 Ultra最小96GBでも70GB余裕で収まる。M5 Maxは最小36GBで不足、128GBまで積み増し必須(追加コスト別)。
さらに「覚えてさえいればMacの弱点(読む遅さ)も一部ごまかせる」副次効果。エージェントの文脈は後ろに足されるだけで話題不変ならキャッシュ再利用可能。毎回全文読み直さず高速化。ただし話題転換でキャッシュ再構築時は全量読み直し発生。KVが太ると書く速度も落ちる(M5 Ultra空状態60→満載17 tok/s、約1/3)。物理法則は平等だが「置き場なくて死ぬ」より「遅くても走れる」が強い。
メモリ高騰時代の「箱ごと安い」逆転劇
「5090に512GB積めば解決では?」は物理的に無理。GPUメモリは高速チップを基板直付けし帯域稼ぐため搭載枚数に上限。大容量品ほどメモリ高騰の直撃を受け、RTX PRO 6000(96GB)が155万円・公式1.6万ドルへ。対するM5 Ultraはユニファイドメモリ採用で96GB標準94.98万円。同容量業務用グラボより箱込みで60万円安い。前世代ではメモリ高騰で大容量構成が販売停止になった前例もあり、相場は流動的だが「今の値札」ではMacが勝つ。
ネットの反応
真ん中の説明画像が白飛びしててめちゃくちゃ読みづらい
そんなのよりDGX Spark買えばいいんじゃないの?
M5 Ultra 512GB買ったら、現状だとGLM5.3Flashをコンテキスト260kで動かすのが目標になると思うが、MoEで320BのA18Bならdecode速度は18B基準で考えていいの?単純に考えたらdecode100t/sくらい出せる?完全に実用レベルになりそうだが
Apple Siliconアーキテクチャをリバースエンジニアリングして低価格化する未来もありそう。Appleにめっちゃ投資してるから複雑だけど……その辺も解説希望
LLM界隈で4060選ぶ人多いの?RTX3060なら12GBで帯域360GB/s、値段ほぼ変わらん。「モデル乗らない」話だが、安いグラボ複数枚でOllama入れるだけで30B動く。RTX3060×4で31B動かして実測47tok/s、コンテキスト56k、総額40万弱
人間の脳で例えると感慨深い。仕事できる人はKVキャッシュ多いか、使い方うまいか。効率的に圧縮するFlash Attentionみたいに。次はそうなるよな
リーズナブルなGPU複数枚挿してGPUオフロードが正解。この動画は比較対象が極端で意味ない
参考にさせてもらってる。本筋と関係ないがBGM変えてほしい。15秒ループで緊張感ある旋律が合わない。ゆっくりらしくホンワカしたBGMの方が合う
300-400Bモデルが熱いけど300万のMacでもメモリ足りん。最終的にはFreeToken最強説
高価なグラボってマザボ・CPU・電源・メモリ・ストレージ必要で動作保証も相性保証もない。ホビーならいいが確実性を金で買ったら値段跳ねるよね?
個人なら電力効率も気にしたい。4090唸るとうるさいし気が引ける
最低でもDGX Spark複数台繋ぐ資金ないとローカル環境はオモチャにならない。RTX5090をゲーミングで持ってるか大容量RAMのMac持ってるなら遊ぶ程度。こんなスペックじゃ無理、せいぜい子供の学習用くらい
いざこざあってAppleとNVIDIAが組まないと聞くが、共同開発して1強デバイス作ってくれないかな…
アップルに踊らされると辛くなるぞ
VRAM収まる範囲ならRTX5090が値上がりしてもコスパ最強。でも今はVRAM容量がでかい方が強い世界。RTX Pro 6000が160万以下で買えるサイトどこ?
初めて見たがRTX4060とM5 Ultra比較は意味ない。軽トラと20トントレーラー比較してるようなもの。価格違うのは当然、用途違う。同じ96GBのBlackwellグラボと深掘り比較希望
RTXは24時間運用の電気代馬鹿にならん。実用ならMac一択
AIの所感
「最速の1台」を探す問い自体が、用途の多様化で意味を失いつつある。チャット用途ならどれでも足りる。差が出るのは「巨大モデルを呼ぶ」「長文脈を任せる」「エージェントで自律走行させる」の3場面。ここで決定的なのが「メモリ容量」という物理制約だ。KVキャッシュという「作業メモ」がモデル本体より巨大になり得るエージェント時代において、512GBという圧倒的容量を単体筐体で提供できるM5 Ultraは、当面対抗馬不在の独自カテゴリを形成する。ただし「カタログ値での理論勝ち」であり、9月22日発売後の実測で「読む速さ(プリフィル)がどこまで縮まったか」「エージェントを何時間回せるか」「理論と実測のズレ」が明らかになるまで、断定は保留すべきだ。またRTX 3060×4枚(40万円)で31B・47tok/s・56kコンテキストを実現する「庶民の知恵」も健在だ。メモリ高騰が続く限り、ユニファイドメモリの大容量化コスト優位性はAppleに軍配が上がるが、NVIDIAもBlackwell世代でNVLink-C2C等の相互接続技術を強化してくるだろう。次世代では「メモリ容量×帯域幅×価格」のパレート最適解が、また別の座標に移動しているはずだ。猿博士の実測答え合わせ動画が楽しみだ。