【悲報】iPhoneのAI、「賢いモデルほど返ってこない」ことが判明 待ち時間3倍の衝撃理由とは
【悲報】iPhoneのAI、「賢いモデルほど返ってこない」ことが判明 待ち時間3倍の衝撃理由とは
スマホ上でAIを動かすローカルLLMアプリが急増する中、「一番賢いモデルを選べば間違いない」という常識的な選び方が、実は最も使えない結果を招くことが、第三者評価機関による大規模実測で明らかになった。評価機関Artificial Analysisが8月24日公開した測定結果によると、4ビット以下に量子化した小型モデル41本をiPhone 17 Proで実際に動かしたところ、動いたのは33本。そして点数と応答時間を並べると、63点のモデルが8.0秒で答えを返す一方、それより大きい9B（90億パラメータ）クラスのモデルは62点を出すのに25秒以上かかるという、直感に反する形が浮かび上がった。点数はほぼ同じなのに待ち時間だけが3倍以上違う、しかも大きい方が低い点数というのだ。
Artificial Analysisはモデルを作る側ではなく、完成したモデルを外部から採点する第三者の評価機関だ。自社製品の宣伝ではないため数字の信頼性は比較的高いとされる。ただし今回の測定はLiquid AIとの共同環境で行われており、同社のLFM2.5系モデルが上位に入っている点は差し引いて見る必要があるとの指摘もある。測定方法は、4ビット以下に量子化した41本のモデルに1024トークン分の文章を読ませ、256トークンの返答を書かせるまでの時間を統一条件で計測するというものだ。
そもそも量子化とは、数字の精度を落としてファイルを小さくする技術であり、節約ではなくスマホでAIを動かすための前提条件だ。これをかけなければ大型モデルはそもそもスマホに載らない。今回の41本はすべて限界まで縮めた状態での測定であり、縮める余地はほぼ残っていない。なお8本が動作しなかった理由については個別の説明がなく、断定はできない。
8秒を超えると点数は止まり 時間だけが伸びる
実測データを小さい順に並べると、興味深い構造が見えてくる。最も小さいLFM2.5 230Mは27点で0.9秒、MiniCPM 1Bは45点で2.9秒、8Bクラスの2本は59点前後で5.7秒、LFM2.5 2.6Bは63点で8.0秒と、ここまでは待った時間の分だけ賢くなる順当な伸び方だ。ところが8秒を超えたあたりから点数が天井にぶつかる。同じ63点でも3Bモデルは21.4秒、最大の9BクラスであるQwen3 9Bは62点に25秒超、Falcon-H1 7Bに至っては26.7秒かかった。つまり「一番大きいもの」を選ぶと、買わされるのは賢さではなく待ち時間なのである。
25秒という数字の重みは大きい。検索なら画面を切り替えてしまうレベルの時間であり、人は待たされ続けるとその道具そのものを使わなくなるとされる。評価記事も許容できる待ち時間の目安を60秒以内に置いているが、一言聞くのに25秒待たされるのは体感的に相当なストレスだ。
犯人は計算量ではなくメモリ帯域
ではなぜ大きいモデルほど遅いのか。直感的には「中身が大きいから計算が多いから」と考えがちだが、本当の原因は別の場所にある。メモリ帯域、つまり1秒間にどれだけのデータを運べるかという道幅の問題だ。AIが文字を一つ出すたびに、モデルの中身全体を頭から末尾まで読み直しているというのが鍵で、前に読んだから覚えているということは一切ない。だから2.3GBのモデルなら1文字につき2.3GBを運搬し、6.9GBのモデルなら1文字につき6.9GBを運ぶことになる。計算する時間より運ぶ時間の方が長いのだ。
iPhone 17 Proのメモリは12GBのLPDDR5Xで、帯域は最大およそ毎秒75.8GBとされている。この帯域をモデルのサイズで割ると出力速度の上限が概算でき、75.8÷2.3でおよそ毎秒33文字、75.8÷6.9でおよそ毎秒11文字となる。実際の実測値である8.0秒対25秒超（約3.1倍）ともおおむね整合する。理論値に対する実効効率は5〜7割程度とされるため厳密には上限値だが、傾向としてはファイルサイズを見れば速さが読めるという結論になり、「点数表よりファイルサイズの方が正直」という示唆が得られる。
さらに追い打ちをかけるのが推論モデルの存在だ。答えの前に頭の中で下書きをするタイプのモデルは、その下書きも一文字ずつ書き出すため運搬処理が膨張する。Qwen3 9Bは採点1周の間に7450万トークンもの思考トークンを吐き出しており、比較対象の520万トークンの14倍に達する。この14倍を6.9GBの重さで一文字ずつ運んだ挙句、得られた点数は61点で、2.6Bモデルの63点に届いていない。長く考えたのに負けるという皮肉な結果だ。また毎秒55文字の出力速度でも64Kトークンを出し切るには20分以上かかるという試算もあり、手のひらの上で長考させる使い方は現実的ではない。
12GB積んでいてもアプリには渡らない
動かなかった8本の背景として、もう一つの壁がある。出場条件は「8Kトークンのやり取りをした状態で8GBに収まること」だったが、端末が12GB積んでいてもアプリ一つにその全部が渡されるわけではない。OSや他のアプリが裏で動いており、写真もカメラも音楽も同じ12GBを分け合っている。実測でもピーク消費は最小0.4GBから最大6.9GBと幅があり、上位モデルはもう余裕がない。
ここから先はアプリ開発者コミュニティで共有されている知見だが、iOSにはjetsamという仕組みがあり、アプリごとにメモリ上限を設けている。上限に触れるとアプリはOS側から強制終了させられる。しかも大きく確保しているアプリほど狙われやすく、他のアプリに切り替えた瞬間に消される報告が多い。ちょっと調べ物をして戻ったら読み込みからやり直しという体験になるうえ、大きいモデルほど読み込み自体にも時間がかかるため二重に損をする。また推論プログラムがモデル内部を細かい区画に分けて扱う作り方をする場合、区画数の多さゆえに空き容量が残っていても上限に当たるケースもあるとされる。ただし8本落ちた理由は公式には説明されておらず、あくまで可能性の一つにとどまる。
「大きいのに速い」抜け道と選び方の基準
希望もある。LFM2.5 8B-A1Bというモデルは、全体では8B分の中身を持ちながら、一文字出すのに使うのはうち1B分だけというMoE（専門家混合）構造を採用している。必要な区画だけを起こすことで運搬量を減らし、58点を5.7秒で出している。62点・25秒超の9Bより4点低いものの時間は4分の1以下であり、「4点のために19秒払うか」という判断になれば、日常利用では軽い方を選ぶ合理性は高い。ただしこの方式は置き場所としてのメモリは8B分食うため、速さだけが得で容量は得ではない点には注意が必要だ。
まとめとして提示されている選び方は2つの基準に集約される。第一に点数表だけで選ぶのをやめ、必ず併記されているファイルサイズを見て、同じ点数なら軽い方を選ぶこと。第二に名前に「A」（Activeパラメータ）が入る8B-A1B型の表記のモデルは、見かけの大きさの割に軽く動くので候補に入れること。現在の端末なら2〜3GB級が甘いどころだという。もっともこれは2026年8月時点の話であり、来年には同じ2.3GBでもっと賢いモデルが出てくる可能性が高い。帯域という道幅は変わらなくても、荷物が軽くなればいいわけで、実際2.6Bが9Bに並ぶ時点で「小さくても賢くできる」ことは証明済みだ。
また、これはiPhone固有の話でもない。Galaxy S26 Ultraに搭載されるSnapdragon 8 Elite Gen 5のメモリ帯域は公表仕様でおよそ毎秒84.8GBとされており、iPhoneの75.8GBとは同桁内の僅差だ。据え置きのグラボRTX 4090が毎秒1008GB、Mac M4 Maxですら546GBであることを考えれば、13倍の開きが横たわっており、どちらの陣営を買っても壁は同じ場所にある。バッテリーと発熱の制約から帯域を広げられない以上、スマホのAIが来年突然10倍速くなることも原理的にあり得ない。連続使用時には熱による性能低下の可能性も指摘されるが、その定量データは今回の記事にはなく、分からないことは分からないと留保されている。
ネットの反応
せっかく入れるなら賢い方がいいと思って一番大きいの入れてた。25秒待たされるのは確かに使わなくなるわ
1文字出すたびにモデル全体を読み直してるって知らなかった。6.9GBのモデルなら1文字ごとに6.9GB運んでるってすごい無駄に聞こえるけど理屈としてはそうなるのか
点数の隣にファイルサイズが必ず書いてあるから、同じ点数なら軽い方を選ぶだけでいいっていう結論が潔い
8B-A1Bみたいな名前の付け方、意味不明だと思ってたけどActiveのAだったのか。見かけは大きいのに動く時は軽いって便利すぎる
他のアプリに切り替えたら戻ってきたときにまた最初から読み込み、あれはOSに落とされてたのか。腹立ってた原因がやっと分かった
RTX 4090とスマホで13倍の道幅の違いなら、グラボ勢を羨ましく思うしかない。スマホのAIは来年も10倍速くならないって冷静な話でいいね
iPhone vs Androidの争いが起きやすい話題だけど、仕様上は75.8対84.8で同じ桁。どっちも同じ壁の手前にいるって言われると納得
AIの所感
この実測が突きつけているのは、「スペック表の賢さ」と「手元で体感できる快適さ」の間にある巨大な溝だ。ベンチマークの点数はあくまで冷えた状態での一発勝負の数字であり、現実の利用は連続使用・マルチタスク・電池残量との戦いである。「一番賢いモデル」を選ぶことが「一番使わないAI」を導入することにつながるという逆説は、モデル選びだけでなく道具選び一般に通じる教訓だろう。注目すべきは、上限を決めているのが華々しいモデル開発競争ではなく、メモリ帯域という地味なハードウェアの数字だという点だ。発表会では絶対に出てこない数字が生活品質を直接左右するという構図は皮肉だが、逆に言えばユーザー側にコントロールできる余地がはっきりしているともいえる。ファイルサイズを見て軽い方を選ぶ、A付きの表記を見つける。たったそれだけの習慣で待ち時間を4分の1にできるなら、試さない手はない。帯域の進化が緩やかな限り、「賢さを軽さで買う」時代はしばらく続きそうだ。