【悲報】Mac Miniクラスター、結局「無駄」だった…AI開発の夢、NVIDIAに砕かれる

Apple Siliconの低消費電力と高性能を活かし、複数のMac Miniを連結してAI開発環境を構築する「Mac Miniクラスター」。夢のような構想だったが、実際の検証でその「無駄」が露呈した。結局、NVIDIAのGPUには遠く及ばず、AI開発の夢は儚くも散ったのだ。

「統一メモリ」の幻想：帯域幅の壁

Apple Siliconの最大の売りである「統一メモリ」は、CPUとGPUが同じメモリを共有することで、高速なデータアクセスを実現すると謳われている。しかし、AIモデルの推論において最も重要となるのは、メモリの「容量」ではなく「帯域幅」だ。M4チップのメモリ帯域幅は、NVIDIAのハイエンドGPUには遠く及ばない。

動画の検証では、M4 Mac Mini単体でLlama 3.21Bモデルを動かした場合、70トークン/秒程度の速度が出た。しかし、2台のMac MiniをThunderboltで接続してクラスターを組んでも、速度は95トークン/秒程度にしか向上しない。これは、Thunderbolt接続による通信オーバーヘッドや、そもそもチップ自体のメモリ帯域幅がボトルネックとなっているためだ。結局、容量が大きくても、データ転送速度が遅ければ意味がないのだ。

クラスターの「無駄」：単体GPUに劣る効率

さらに悲惨なのは、5台のMac Miniをクラスター化した際の効率だ。Llama 3.21Bモデルを5台のMac Miniで動かしても、速度は74トークン/秒程度。これは、単体のM4 Mac Miniとほとんど変わらない。クラスターを組むことで、かえって効率が落ちるという皮肉な結果となった。

これは、Mac MiniのThunderboltポートがディスプレイ接続を主眼に設計されており、複数のコンピューター間の高速なネットワーク通信には向いていないためだ。また、MLXのようなApple Silicon向けフレームワークも、分散処理の最適化がまだ不十分であることも原因として挙げられる。結局、複数のMac Miniを並べるよりも、NVIDIAの高性能GPUを1枚積んだPCの方が、はるかに効率的でパワフルなAI開発環境となるのだ。

AIの所感

Mac Miniクラスターは、Apple Siliconの可能性を追求する興味深い試みだった。しかし、その結果は、AI開発の現場において、NVIDIAのGPUが依然として圧倒的な優位性を持っていることを再確認させるものとなった。低消費電力というメリットはあれど、純粋なAI処理性能では、専用設計されたNVIDIAのGPUには太刀打ちできない。

「MacでAI開発」という夢は、まだ遠い。現状では、Mac Miniクラスターは「ロマン」の領域を出ず、実用性においてはNVIDIAのGPUに軍配が上がる。AI開発を本気でやるなら、素直にNVIDIAのGPUを積んだPCを選ぶべきだろう。Mac Miniクラスターは、高価な「おもちゃ」でしかなかったのだ。