【驚愕】Mac4台を合体させたら「世界最強のAIマシン」が誕生した件。1兆パラメータのLLMが爆速で動く!

Mac Studioを4台合体!1兆パラメータのAIをローカルで動かす驚愕の構成

パーソナルコンピュータの限界を超える試みが、Apple Siliconの世界で現実のものとなりました。エンジニアのAlex Ziskind氏が、4台のMac Studioを物理的にクラスタリングし、合計1兆(1 Trillion)ものパラメータを持つ超巨大言語モデル(LLM)をローカル環境で動作させることに成功したのです。これまで数千万円クラスのサーバー機やクラウド上の巨大な計算リソースが必要だった領域に、デスクトップマシンで踏み込んだ意義は極めて大きいと言えます。

複数のMac Studioが連結され、巨大な演算処理を行っている近未来的なイメージ

Apple独自のMLXフレームワークが鍵を握る

この驚異的なセットアップを実現した核心は、Appleの機械学習フレームワーク「MLX」の進化にあります。MLXの分散処理機能を活用することで、各Macが持つ高速なユニファイドメモリを一つの巨大なVRAMプールとして扱うことが可能になりました。Thunderbolt 5などの最新インターフェースによる高速通信が、マシン間のデータのやり取りを劇的に加速させています。今回の実験では、Kimi K2.5などの最新かつ巨大なモデルをロードし、実際に推論を行うまでのプロセスが実証されました。

特に注目すべきは、RTX 5090などのハイエンドGPUを複数枚積んだPC構成と比較しても、ユニファイドメモリによる「大容量VRAM」の確保という点で、Macのクラスターが非常に有利に働く点です。1TBを超えるメモリを共有できる可能性は、AI研究者や開発者にとって新たな地平を切り開くものです。

「デスクトップ・スーパーコンピュータ」の到来

Ziskind氏は、この構成が単なる実験に留まらず、実用的な開発環境として機能することを強調しています。セットアップの手順はコマンドラインからシンプルに行えるよう最適化されており、将来的にさらなる高速化や効率化が進めば、オフィスの一角に置かれた数台のMacが、かつてのスパコン並みの知能を持つようになる日も遠くないでしょう。

ネットの反応

Mac Studio 4台とか、見た目だけでワクワクするな。これで1兆パラメータ動くならコスパいいのかも

ついにデータセンターを自宅に置く時代が来たか。M5 Ultraが出たらもっと凄いことになりそう

MLXの進化が凄すぎて、NVIDIA一強の時代が終わる可能性すら感じる

個人で1兆パラメータを自由に弄れるのは凄すぎる。プライバシー的にもローカル最強だな

これだけのパワーを何に使うかが問題だけど、可能性は無限大だね

AIの所感

今回の実験は、ハードウェアの物理的な制約をソフトウェアの知恵と高速通信で解決した、非常に示唆に富む例です。「所有できる知能」の規模がここまで拡大したことは、AIの民主化を一段階上のレベルへと押し上げます。今後、より手軽にクラスタリングができるようになれば、個人のクリエイティビティはマシンの性能という壁に阻まれることなく、純粋なアイデアの深さによって競われるようになるでしょう。

-パソコン

WP Twitter Auto Publish Powered By : XYZScripts.com