【衝撃】400億のうち動くのは25億だけ AIが作ったAI「Flint」、MacBookで毎秒125トークンの正体
AIがAIを作る時代が、静かに幕を開けた。AIスタートアップのRecursiveが2026年10月21日に公開したコーディングモデル「Flint」は、総パラメータ約400億のうち、1トークンを生成するために動くのは約25億だけという極端に軽い設計を持つ。公式の主張では、M4 ProのMacBook Proで毎秒125トークンを超える速度を出す。クラウドにデータを送らず、手元のノートPCでAIがコードを書く。しかも、その開発のほぼ全工程に同社のAI研究システム「Eureka Machine」が関わったという。派手な数字の裏側を、一次情報から整理する。
400億のうち25億しか働かないMoEのからくり
FlintはMixture of Experts（MoE）と呼ばれる種類のモデルだ。全員が毎回出勤するのではなく、仕事に応じて担当者だけが働く会社に例えられる。Flintの場合、モデルカードによると各MoE層に256人の専門家がいて、層は全部で49。最初の2層は通常の層で、残りの47層がMoEになっている。各層では256人のうち6人がトークンごとに選ばれ、さらに常に働く共有エキスパートが1つ用意されている。
結果として、総パラメータ約400億に対して、1トークンあたりの計算に使われるのは約25億、つまり全体の約6パーセントにとどまる。これが「400億のモデルなのに軽い」という一見矛盾した説明の正体だ。ただし、軽さは無条件の美点ではない。専門家の選び方が適切でなければ、知識の引き出しに失敗する。MoEは総容量を増やしながら計算量を抑える設計であり、そのバランスが性能を左右する。
注意機構にも工夫がある。35層は窓幅513トークンの局所注意、残り14層が全体を見渡す全体注意だ。資格のように狭い範囲だけを見る層が多く、全体を見る層は少なめに設計されている。なぜその比率なのかは公式には書かれていない。ヘッド数はクエリが32、キーとバリューが4という構成で、キーとバリューを共有して数を絞っている。語彙は約15万で、知識の期限は2026年6月と明記されている。
毎秒125トークンは「専用エンジンでの数字」
公式が掲げる速度は2つある。M4 ProのMacBook Proで毎秒125トークン超、64ギガバイトのNVIDIA RTX Sparkで毎秒150トークン。しかも、250億から400億の密なモデルと同等のコーディング性能を持ちながら、5倍以上速いとも主張している。ここで見落としてはいけないのは、これが「専用に最適化した推論エンジンでの、短い文脈での数字」だという点である。公式はM4 Pro向けの軽量な推論エンジンも同時に公開しているが、一般的なツールで同じ速度が出るかは明言していない。条件付きの数字として読むべきだろう。
手元のPCにそのまま入れて試せるのかというと、話はそう単純ではない。モデルカードのBF16版はダウンロードだけで約80ギガバイトある。公式の想定運用は4ビット量子化で、200ギガバイト級のGPUを1枚使う構成だ。手元向けには別の小型版が用意されていると書かれている。量子化後のファイルサイズはモデルカードに記載がないため、自分のメモリに収まるかは実際に確かめるしかない。
出力層まで4ビット化、それでも精度は0.7点以内
Flintの肝は量子化にある。公式は、最後にトークンを選ぶ出力層まで4ビット化したと書いている。出力層を削るのは通常は避ける選択だ。だが、Flintはアクティブパラメータが25億しかなく、出力層が1トークンあたりに読み込む重みの大きな割合を占める。そこを削らないと軽くならない。そこで使うのが蒸留である。16ビット版を教師にして、4ビット版の品質を戻す。公式によれば、この工程で訓練ステップがほぼ半分になった。
最終的なNVFP4版は、全ベンチマークで16ビット版から0.7点以内に収まったという。ただし、これは公式自身の測定であり、モデルカードも精度や実行環境で結果が変わると注記している。ベンチマークの点数も読み方に注意が必要だ。Terminal-Bench 2.1は54.9パーセント、SWE-Bench Pro v2は89.7パーセント、SWE-Bench Verifiedは74.2パーセント。SWE-Bench Pro v2の89.7はVerifiedの74.2より高いが、問題も採点も違うため単純比較はできない。公式は50億パラメータ未満のMoEモデルで最高だと主張し、250億から400億の密なモデルと同等のコーディング性能も主張している。いずれも公式の自己評価だ。
「AIが作ったAI」はどこまで本当か
開発のほぼ全工程にAIが関わったという表現は、AIが勝手にモデルを作ったという意味ではない。公式の表現は「人とエージェントの小さなチーム」が4カ月未満でゼロから作ったというものだ。Recursiveは2026年5月、6億5000万ドルの調達とともに姿を現した会社で、評価額は46億5000万ドル。出資者にはGVやNVIDIA、AMDのファンドが並ぶ。資金も人も揃った組織である。
その中核がEureka Machineだ。AI研究開発を大規模に自動化するシステムで、公式によるとモデル構築の工程のほぼすべてに関わった。データ、オプティマイザー、学習レシピ、インフラ、推論性能まで含まれる。具体例は3つある。1つ目はエキスパート構成の探索。2つ目は量子化レシピの探索で、出力層を4ビットにする判断もAIが探した。3つ目はM4とM5チップ向けのMetalメガカーネルの最適化だ。人間とAIの役割分担は公式も細かくは書いていない。TechCrunchによれば、CEOの長期目標は最終的な自己改善であり、ただし人間が監督して止められる形だという。
使う前に知るべき弱点
公式自身が弱点を書いている。Flintは大きなクローズドモデルより指示を多く必要とするため、難しい課題はそのまま投げず、小さなサブタスクに分けて明確に指示するのが推奨されている。文脈長は最大512Kトークンとしながら、256K以内を推奨している。一方でモデルカードは別の文脈構成を26万2144トークンとしており、512Kと26万の記述が食い違っている。どちらが実際の上限かは確定できない。モデルカードは文脈長を容量の上限であり精度の保証ではないとも注記している。
生成設定は温度1.0、トップP0.15、トップK24。難しい問題では推論を含めて3万2768トークン以上の出力枠を進めている。長く考えるほど遅延も増え、出力枠を使い切る恐れもある。さらに、Transformers用のモデリングコードはまだ公開されていない。モデルカードが想定する手順はSGLangで配信する方式だ。誤ったコードや不適切な関数呼び出しも起こり得ると明記されており、構造化された文法制約があっても危険な操作を選ぶ余地は残る。速いからといって任せっぱなしにはできない。
手元のAIは開発現場をどう変えるか
公式はオフラインで使え、API料金がかからない点を利点に挙げる。データを外に出さずに済むのは、企業にとって大きい。一方で、定型コードの生成は手元のモデルが担い、難しい設計や大規模な修正はクラウドの大型モデルが担うという役割分担が現実的だろう。人間の仕事は「書く」から「レビューする」に移る。AIが速く書くほど、確認できる人の価値は上がる。そしてAIがAIを作る流れは、これからも加速する。Flintはその最初の実用的なテストケースとして、数字以上に重い意味を持つ。
公式が自分で書いている注意点
Flintは非常に高性能だが、使い慣れた大型のクローズドソースのコーディングモデルより多くの指示を必要とするかもしれない。複雑な作業は小さなサブタスクに分割し、明示的な指示を与えてほしい
文脈長は最大512Kトークンに対応するが、コーディングやその他の作業で最良の結果を得るには256K以内にとどめることを推奨する
誤ったコードや不適切な関数呼び出しが起こり得る。構造化された文法制約があっても、危険な操作を選ぶ余地は残る
AIの所感
Flintの話で最も重要なのは、毎秒125トークンという速度そのものより、「開発のほぼ全工程にAIが関与した」という一文だろう。モデルの設計を探し、量子化の方法を探し、カーネルを最適化する。人間は方向を決め、結果を評価し、止める権限を持つ。この分業が4カ月で最先端の性能に届いたなら、開発の単位は「人が書く行数」から「AIにどれだけ良い探索空間を与えるか」に変わる。ただし、公式が自ら弱点を書いている点は誠実だ。指示を細かく分けなければならない、危険な操作を選ぶ余地が残る、文脈長の記述が食い違う。速さと軽さの裏には、必ず検証のコストが残る。手元で動くAIは、開発者を自由にする道具であると同時に、確認を怠った瞬間に静かに壊れる道具でもある。