【朗報】Mac派もグラボ派も実は「全員正しい」——噛み合わない会話の謎を解くと、自分に合うAIマシンが見えてくる
【朗報】Mac派もグラボ派も実は「全員正しい」——噛み合わない会話の謎を解くと、自分に合うAIマシンが見えてくる
「地味なMacのほうが大きいAIを動かせる」という解説が賛否を巻き起こし、コメント欄が真っ二つに割れた。「グラボを2枚買うべきだ」という人。「そもそもCUDAを使う場面があるのか」と聞き返す人。「AMDのグラボなら32GB載る」と主張する人。実はこの3人、全員が正しいのに話が噛み合っていない。その理由は、それぞれが全く別の「作業」について語っているからだ。AIとの関わり方には「出来上がったAIを使う」道と、「自分好みに作り変える」道があり、必要なメモリ量が桁違いに変わる。
「使うだけ」と「作り替える」——必要なメモリが6〜8倍変わる
AI全体をメモリに乗せられなければ極端に遅くなる、というのはローカルAIの基本だ。では、70億パラメータのAIを例に考えてみよう。質問して答えをもらう「推論」だけなら、軽量化すれば10GB前後で足りる。ところが、同じAIを丸ごと自分好みに「ファインチューニング（微調整）」しようとすると、学習中は途中の計算を全て覚えておく必要があるため、実に60〜80GBが必要になる。使うだけなら10GB、作るなら80GB。その差は6〜8倍にもなる。
全部を直すのは諦めて「付け足しの部分だけ」を学習させる「LoRA」なら16〜24GBまで下がり、元のAIまで削る「QLoRA」なら10〜14GB。700億パラメータの巨大AIでも48GBあれば自分好みに調整できると言われている。つまり「24GBのグラボが1枚あれば、70億〜130億のAIを自分の好みに直せる」という現実的な世界が既に来ている。
「CUDAの壁」はハードの壁ではなく「ソフトの壁」だった
ここで登場するのが最大の誤解ポイントだ。「MacはCUDAが動かないから学習できない」と言われがちだが、これは半分しか正しくない。Appleが自社開発した「MLX」というツールを使えば、CUDAを一切使わずにMacでも学習可能。メモリ96GBのMacでLoRA学習が実際に動いた報告も出ている。Macはメモリを本体とAIで分け合う設計なので、大きなAIを乗せる場面ではむしろ有利なのだ。
では本当の差は何か。それは「道具の数と新しさ」だ。AIの世界では毎月のように新しい手法が生まれており、まずNVIDIA向けに開発される。研究者がそこで実験しているからだ。MacやAMD向けの対応は後から来るか、永遠に来ないこともある。メモリを節約する有名なツールの中にはCUDA専用のものがあり、MacやAMDでは代替品を探して試して失敗を繰り返すことになる。この「面倒臭さ」こそが最大の差なのだ。
AMDという「第三の道」——ただしLinuxが条件
AMDにはCUDAに相当する「ROCm」という土台があり、今年1月には新版が出て主要な学習ツールが正式対応。32GB搭載の業務用カードも公式に対応済みだ。AMDの主張は概ね正しい。ただし「まともにやるならLinuxを使え」が条件。自分で環境を入れ、自分で直せる人向けだ。ハードルは確かに上がるが、これも性能の話ではなくソフトの話である。
つまり、3人の言い分は「どこまで自分で面倒を見る気があるか」の違いに収束する。使うだけなら大きいメモリに乗るかどうかで選ぶ。作り替えたいなら道具が揃っているかで選ぶ。自分で面倒を見られる人はAMDという選択肢も入る。これが今日の答えの骨組みだ。
自分が「どっち側か」を見分ける3つの質問
自分が使う人か作る人かを判別する簡単な質問が3つある。
1つ目「会社や自分の資料をAIに覚えさせたいか」。実はこれは学習しなくても、質問のたびに資料を一緒に渡せば済む場合が多い。それで足りるならあなたは「使う人」。2つ目「喋り方や書き方を根本から変えたいか」。毎回お願いするのではなく最初からそういうAIにしたい、と思ったら「作る人」に近い。3つ目「うまくいかない時に自分で調べて直すのが苦じゃないか」。これが唯一、正直に答えなければならない質問だ。苦ならNVIDIAかクラウドでいい。苦にならない人はMacでもAMDでも自由だ。
「両方できる」機会も登場——NVIDIAの小型ボックス「Spark」
前回の動画へのリクエスト「新しい機械が出たら比べてほしい」に応えると、今まさに「使う」も「作る」も1台でできる機械が登場している。NVIDIAが発表した机に置ける小型PC「DGX Spark」（RTX Spark）だ。Macに近い設計で128GBメモリを積み、しかもNVIDIAなのでCUDAがそのまま動く。2000億パラメータまで動かせ、700億までなら自分好みに調整できるとされている。
ただし数字はNVIDIA自身の発表で、第三者が再現した結果ではない。机置き型は日本円で60万円前後から、Windows版はこの秋に登場予定だが価格は未定だ。これが普通の値段で出れば、今日の「2択」の話は前提から変わる。それでも「使う人か作る人か」という物差し自体は、製品が変わっても消えない。先に自分がどちら側かを決めれば、機械は後から決まるのだ。
ネットの反応
グラボ派は本体価格以外に電気代が怖い。大きなのを動かすとブレーカーのアンペア数から変えないといけないし基本料金も上がる
「速さの前に容量、容量の前に道具が動くか」か。この順番を間違えると高い買い物が無駄になるのはまさにその通り
CUDAの壁がソフトの壁って気付きはデカい。ハードを買い換えなくても時間が解決する可能性があるんだな
自分は完全に使う側だわ。Macで大きく動かすのが正解だった
70億AIをチューニングするのに24GBグラボ1枚で足りるなら、自作PCでも手が届く世界になったんだな
AIの所感
この「誰も間違っていないのに話が噛み合わない」構図は、AIブームの本質をよく表している。技術が急速に広がるほど、同じ「AIマシンを買う」という行為でも、そこに込められた目的が多様化していく。推論しか使わない人にとっての正解と、ファインチューニングまでやる人にとっての正解が違うのは当たり前で、それぞれの立場が違うだけで全員正しいという結論は誠実だ。
筆者が特に感心したのは「CUDAの壁はハードの壁ではなくソフトの壁」という整理だ。これは将来性の議論にも直結する。ハードの差は買い換えないと埋まらないが、ソフトの差は時間とコミュニティの成長で埋まる可能性がある。AppleのMLXが着実に進化し、AMDのROCmがツール対応を増やしている現在、NVIDIA一強の「ソフト優位」が永遠とは限らない。とはいえ今の時点で「楽」なのは確実にNVIDIAであり、その事実は揺るがない。
最後に、LoRAやQLoRAによる軽量化技術の進歩は、ローカルAIの主権を個人へと移しつつある。24GBグラボで70億級AIを自分の好みにできる時代、AIの「所有」の概念が変わりつつあるのだ。あなたが「使う人」か「作る人」か。その答えが、2026年のAIマシン選びの分水嶺になる。