【狂気】Ryzen AI Max+ PRO 495が192GBで常識破壊!ローカルAIがクラウドを喰う日
【狂気】Ryzen AI Max+ PRO 495が192GBで常識破壊!ローカルAIがクラウドを喰う日
AMDが放った「Ryzen AI Max+ PRO 495」が、ローカルAIの常識を根底から覆そうとしている。最大の武器は、なんと192GBという超弩級の統合メモリだ。これまでクラウドでしか動かせなかった巨大な大規模言語モデル(LLM)を、デスクトップ一台で走らせる。そんな狂気じみた未来が、現実のものとなりつつある。
動画の冒頭で「まとめの数十万というのは間違いです」と訂正が入った通り、価格は数十万円どころではない。「今120万円ぐらいの値段がついている」という声が示す通り、これはプロフェッショナル向けのワークステーションレベルの投資だ。だが、その価格すら納得させるアーキテクチャの秘密が、このチップには隠されている。
統合アーキテクチャと3つの頂点、192GBの強み
Ryzen AI Max+ PRO 495の核心は、CPUとGPU、そしてNPUを一つのパッケージに統合し、192GBのLPDDR5Xを全員で共有する「統合アーキテクチャ」にある。従来のPCでは、CPU用のDDRメモリとGPU用のVRAMが分断され、巨大なAIモデルを動かすたびにデータを往復させるボトルネックがあった。
本チップでは、その壁が消える。「極限の近接」と表現されるように、演算ユニットとメモリが物理的に極めて近く配置され、帯域幅の現実的な限界を押し上げている。3つの頂点、すなわち「容量」「帯域」「演算力」を同時に頂点まで持っていくことで、70B(700億)パラメータ級のモデルを、量子化なしで丸ごとメモリに載せることが可能になった。
192GBの強みは、単に大きなモデルが動くことだけではない。複数のモデルを同時に常駐させ、推論のプレフィル(入力処理)とデコード(生成)を並列で回せることだ。例えば、推論用の70Bモデルと、検索用の埋め込みモデル、さらに画像生成モデルを同時にメモリに置き、コンテキストを切らさずに連携させられる。これは、クラウドのAPIを呼び出すのとは次元の違う、ローカルならではの応答性とプライバシーを生む。

非対称キャッシュと演算力、FP4不在の代償
アーキテクチャの妙は、非対称キャッシュにも宿る。CPUコアとGPUコアでキャッシュの階層を非対称に設計し、AIの推論で頻発する不規則なメモリアクセスを、どちらかが得意な形で吸収する。これにより、プレフィル時のバースト的な演算と、デコード時の逐次的な生成という、全く性格の異なる2つのフェーズを、どちらも効率よくこなせる。
演算精度については、FP4やFP8といった超低精度の専用アクセラレータが「非搭載」であることが惜しまれる。「FP4やFP8のアクセラレータが非搭載…」というコメントは、NVIDIAのH100やB100が低精度で圧倒的なスループットを出す現状を知る者ならではの嘆きだ。AMDはFP16とINT8/INT4での汎用的な演算力で勝負しており、量子化の手間をかけずに高精度を保てるメリットはあるが、トークン毎秒(tokens/sec)の絶対値ではNVIDIAに水をあけられている。「トークンパーセックが遅い」という指摘は、まさにそこを突いている。
ソフトウェアの壁、ROCmは別物に進化したか
ハードウェアが狂気的でも、ソフトウェアが追いつかなければ宝の持ち腐れだ。長年、AMDの弱点とされてきたROCmだが、「ROCmは2か月前と比べると別物レベルで進化しましたね」という声が示す通り、ここ数ヶ月で急速に改善が進んでいる。PyTorchやvLLM、llama.cppでの対応が進み、「実際ROCmしか使えない?」という不安も、徐々に解消されつつある。とはいえ、CUDAのような豊富なエコシステムや、すぐに動くサンプルコードの量では、まだNVIDIAに一日の長がある。
価格面では、「1年前なら数十万円レベル」という認識が、現在は120万円に跳ね上がっている。メモリ価格とパッケージングコストの高騰が直撃しているのだ。「AIの大容量化が進めばそれに合わせて192GBも上げて行かないと売れなくなる時代になるだろうから、このAI使いたい!とか決定版が出るまでは様子見安牌」という意見は、極めて冷静だ。ゲームハードのように、キラーソフト(キラーモデル)が出るまでは静観するという戦略は、120万円の投資を前にすれば当然の判断だ。
ネットの反応
動画を最後までご覧いただきありがとうございます。最後のまとめ部分にある「数十万円台」という言及ですが、当方の編集ミスによる誤りでした。大変申し訳ございません。
FP4やFP8のアクセラレータが非搭載…
ROCmは2か月前と比べると別物レベルで進化しましたね。
そう。1年前なら数十万円レベル。 トークンパーセックが遅い 今120万円ぐらいの値段がついている。
AIの所感
192GBという数字は、もはやPCのスペックではない。ワークステーションの領域だ。だが、その狂気が、AIをクラウドの檻から解き放つ。プライバシーを守り、ネットが切れても動き、API料金を気にせず推論し放題。その自由は、120万円という値札を超える価値を持つかもしれない。FP4不在の遅さも、ROCmの壁も、時間が解決する。問題は、あなたが「このAI使いたい!」と心から思える決定版のモデルに出会えるかどうかだ。192GBは、その出会いのために用意された、巨大な箱舟なのだ。