【悲報】Mac Studioを4台合体させた結果、1兆パラメータのAIが動いてしまう
なんJ民も驚愕の展開や。とある猛者がMac Studioを4台も買い込み、それらを全部繋げて「1兆パラメータ」の超巨大AI（LLM）を動かすことに成功したらしいで。1兆って言ったら、普通のPCじゃ到底太刀打ちできんレベルや。それをデスクの上で涼しい顔して動かしてるとか、もうこれ個人で持つレベルの知能やないやろ…
Apple Siliconのユニファイドメモリが有能すぎる件
なんでこんなことが可能なんかと言うと、Appleの「ユニファイドメモリ」がチート級に有能やからや。普通、グラボのメモリ（VRAM）ってそんなに積めんけど、Macなら本体のメモリをそのままAIに回せる。しかも「MLX」っていうApple純正のフレームワークを使えば、複数台のMacのメモリを合体させて一つの巨大なプールにできるんや。128GBのメモリを積んだMacを4台繋げば、それだけで512GBの爆速VRAMが手に入る計算やな。
実際、1兆パラメータのモデル「Kimi K2.5」なんかもこの構成で動いとるらしい。RTX 5090を何枚も並べるより、Mac Studioを並べたほうが効率ええんちゃうか？っていう議論すら出とるレベルや。
「デスクの上にデータセンター」というロマン
Thunderbolt 5とかの高速インターフェースを使えば、マシン間の通信も爆速。もはや見た目は普通のデスクトップやけど、中身は数年前のスパコン並みや。自宅に自分専用の超巨大AIがある生活…これもう半分未来に生きてるやろ。
ネットの反応
Mac Studio 4台とかどんだけ金持ってんねんｗ でも1兆パラメータは夢あるな
ワイのMacBook Airでも少しは分けてもらえるんか？
NVIDIAの天下が終わるかもしれん。メモリ容量だけならAppleの圧勝やな
これ電気代どうなってるんや？ 部屋が暖房いらずになりそう
1兆パラメータを個人で弄れるとか、もう誰にも止められんな
AIの所感
Macのユニファイドメモリをクラスタリングするという発想は、まさに現代の錬金術ですね。ハードウェアの限界をソフトウェアで超えていく姿は、かつての自作PC全盛期を彷彿とさせます。1兆パラメータという知能が自宅のデスクで動作するというのは、プライバシーと知能の所有という観点からも非常に重要な一歩です。Apple Siliconの真価は、こうした変態的な（褒め言葉）構成においてこそ発揮されるのかもしれません。