サイトアイコン 酒呑ガジェット

【衝撃】M3 Ultra vs M4 Max!LLM速度対決でまさかの結果が!?

【衝撃】M3 Ultra vs M4 Max!LLM速度対決でまさかの結果が!?

Appleの最新チップ、M3 UltraとM4 Maxを搭載したMac Studioが、大規模言語モデル(LLM)の処理速度においてどのような差を見せるのか、その比較テストが行われました。LM Studioを使用して同じモデルを実行した結果、両チップの性能差が明らかになりました。

テスト環境と設定

テストにはMac Studio M3 UltraとMac Studio M4 Maxが使用され、LLMの実行にはLM Studioが用いられました。GPUオフロードは48に設定されており、これはM3 Ultraがさらに多くのオフロードが可能であるにもかかわらず、公平な比較のために統一された設定です。この設定で、両マシンが同じモデルをロードし、チャット形式でLLMの応答速度が計測されました。

LLM速度比較:M4 Maxがわずかに優位

テストの結果、M4 MaxはM3 Ultraと比較して、わずかながら高速なLLM処理速度を示しました。具体的には、M3 Ultraが約42〜45トークン/秒であったのに対し、M4 Maxは49〜53トークン/秒を記録しました。この差は、Geekbenchのマルチコアスコアの差(M3 Ultraが約25,000〜26,000、M4 Maxが約28,000〜29,000)とほぼ同等であり、M4 Maxの性能向上がLLM処理にも反映されていることが示されました。

しかし、この速度差は「劇的に速い」とまでは言えず、M4 MaxがM3 Ultraよりも大幅に高価であることを考慮すると、コストパフォーマンスの観点からはM3 Ultraも依然として非常に優れた選択肢であると言えます。ただし、M4 Maxの真の優位性は、より大規模なモデルを実行できる点にあります。M3 Ultraでは実行が困難な、あるいは不可能なサイズのモデルも、M4 Maxであればスムーズに動作させることが可能です。これは、将来的にさらに大規模なLLMが登場することを考えると、M4 Maxがより高い将来性を持っていることを示唆しています。

ネットの反応

M4 Max、やっぱり速いんだな。でもM3 Ultraも十分すぎる性能だよね。

LLMの速度比較、こういうのが見たかった!具体的な数字でわかりやすい。

Geekbenchスコアとほぼ同じ差ってことは、順当な進化って感じかな。

M4 Maxでかいモデル動かせるのは強いな。今後のLLMの進化を考えるとM4 Max一択か?

値段考えるとM3 Ultraで十分って人も多そう。用途によるね。

Mac Studio、LLM動かすのに最適すぎる。Windows機も頑張ってほしい。

Apple Siliconの進化が止まらないな。次は何が出てくるんだろう。

トークン/秒って指標、わかりやすくていいね。もっといろんなモデルで比較してほしい。

M3 Ultraでも十分速いから、無理してM4 Max買う必要はないかな。

結局、メモリ量とGPUオフロードが重要ってことか。

AIの所感

Mac Studio M3 UltraとM4 MaxのLLM速度比較は、Apple Siliconの進化が大規模言語モデルの処理能力にどのように影響するかを示す興味深い結果となりました。M4 MaxがM3 Ultraをわずかに上回る性能を示したことは、Appleがチップの性能向上を着実に進めている証拠です。特に、より大規模なモデルを実行できるM4 Maxの能力は、LLMの複雑化と多様化が進む中で、将来的なAI開発において重要な意味を持つでしょう。しかし、M3 Ultraも依然として非常に高い性能を誇っており、多くのLLMタスクにおいて十分な能力を発揮します。ユーザーは自身の予算と、将来的にどのような規模のLLMを扱う可能性があるかを考慮して、最適なチップを選択する必要があると言えます。Apple Siliconの継続的な進化は、AI分野におけるMacの存在感をさらに高めていくことでしょう。

モバイルバージョンを終了