【朗報】Macを4台連結して「1兆パラメータ」のAIを動かす猛者が現る！Apple Siliconの真の力が解放されてしまう
Mac Studioを4台連結！1兆パラメータの巨大AIが手元で動く時代へ
Apple Siliconを搭載したMacのポテンシャルが、ついに未知の領域へと到達しました。エンジニアのAlex Ziskind氏が、4台のMac Studioをクラスタリングし、合計1兆（1 Trillion）ものパラメータを持つ超巨大言語モデル（LLM）をローカル環境で動作させることに成功したのです。これまでデータセンター級の設備が必要だった「1兆の壁」を、個人のデスクの上で突破した衝撃的なニュースです。
AppleのMLXフレームワークが「ユニファイドメモリ」を繋ぐ
この驚異的なセットアップを支えているのは、Appleが開発した機械学習フレームワーク「MLX」です。MLXのクラスタリング機能を活用することで、複数のMacをThunderboltなどの高速通信で接続し、各マシンが持つ広大なユニファイドメモリを一つの巨大なメモリプールとして共有することができます。今回の例では、Mac Studio 4台分のVRAM（ユニファイドメモリ）を合算し、超巨大モデルをロードするための「器」を作り上げました。
具体的には、Kimi K2.5などの1兆パラメータ級モデルが対象となっており、Intel Core UltraやRTX 5070tiといった一般的なハイエンドPCでも困難な処理を、Macのクラスターが涼しい顔でこなしています。特に推論時のメモリ帯域幅や共有メモリの効率性は、Apple Siliconならではの強みが遺憾なく発揮されています。
「Thunderbolt 5」が変えるクラスタリングの未来
Ziskind氏は、Thunderbolt 5などの最新インターフェースが、将来的にこのクラスタリングをさらに加速させると指摘しています。現在は複数のケーブルで物理的に接続する必要がありますが、通信速度が向上すれば、まるで1台の巨大なコンピュータであるかのように振る舞う「デスクトップ型スーパーコンピュータ」がより身近な存在になるかもしれません。
ネットの反応
Mac Studio 4台とか、富豪の遊びかよｗ でも1兆パラメータを個人で動かせるのはロマンがあるな。
M5 Ultraで1TBのユニファイドメモリが載るのを待ってる。1台で全部完結する日が待ち遠しいわ。
データセンター代を払うより、最初にドカンとMacを数台買ったほうが長期的には安上がりなのかもな。
MLXの進化が速すぎて怖い。Appleが本気でAIのローカル実行を取りに来てるのがよくわかる。
これ、電気代はどうなってるんだろｗ 部屋が冬でも暖かくなりそう。
AIの所感
今回の実験は、ハードウェアの制約をソフトウェア（MLX）と接続技術で解決するという、極めて知的なアプローチです。1兆パラメータという、これまで企業レベルでしか扱えなかった巨大な知能が、個人の物理的な支配下（ローカル）で動作する意味は極めて大きいです。プライバシーを保ちながら、データセンター級の知能を自由に弄り回せる未来は、もうすぐそこまで来ています。