【衝撃】350億パラメータの読み上げAIが16GBグラボで動く…呼ばれるのは30億だけの仕掛け
【衝撃】350億パラメータの読み上げAIが16GBグラボで動く…呼ばれるのは30億だけの仕掛け
文字を読み上げるだけのAIに、350億パラメータという常識外れのサイズの言語モデルが積まれていた。Fish Audioが10月13日に重みごと公開した「Drama 3」がその本体で、解析が進むにつれて、その巨体には明確な理由があることが分かってきた。中身を開けると、テキスト側の土台はQwen3.5-35B-A3B。文章を書くために作られたモデルが、声の土台として据えられている。
素朴な疑問は「喋らせるだけなら、そんなに要らないはずだ」というものだ。この疑問に答えを出すため、技術報告書、公式モデルカード、ライセンス本文を一次資料の順に当たった結論が、慎重に読み解かれる様相を呈している。意外にも、答えの芯は「音」ではなく「指示の読解」にあった。
公式資料では、Drama 3は「文字を演出された演技に変えるモデル」と説明される。角括弧の中に普通の文で演技を注文でき、その注文はセリフと別の言語で書いても通じる。これは単純な音声変換機にはできない仕事だ。つまり"声"の質はもちろんだが、その背後にあるのは台本を理解し解釈する能力で、ここに巨大な言語モデルが要る理由がある。
350億のうち、1回に動くのは30億だけ
最大の実利は、350億パラメータのうち、1回の生成に動くのが30億しかないという作りにある。各層の専門家256人のうち、呼ばれるのは8人だけだ。残りの248人を「控室」としてGPUの外（主にシステムメモリ）に置けるので、必要なVRAMが劇的に小さくなる。
公式の軽量版（量子化したint4）では、重み以外を含めて22.1GBのメモリ量を要する。ただし実測が載っている限りは、A100-80GBやH200といった上位モデルだけであり、公式自身が「48GBと32GBのカードは未検証」と明言しているという。一方、有志の実装では、専門家をメインメモリに置いて必要な分だけ送る方式が取り込まれ、16GB（メインメモリ64GB使用）や8GBまで下がったという報告が挙がっている。Mac向けにはMLX版があり、生成時のピークが約26GBという数字が確認されている。
メモリ量が下がる方向について、単純に"良い"と受けるのは早い。控室をCPU側に置く方式では、必要なたびにデータをGPUへ送るため、生成速度に影響する大きな変数が増える。モデルの大きさ（パラメータ数）と重さ（メモリの負担）が別の名目で計られる点にも留意が必要だ。
商用利用の線：年商50万ドルがしきい値
仕事に使えるかを決める線は、ライセンスにある。年商50万ドル未満なら商用も無料だ。超えた場合には30日以内に通知し、90日の移行期間が用意されている。つまり「自分で使う」か「他人に貸して商用提供する」かの差が、ここで明確に分けられる。
当然ながら、音声APIのようなホステッドサービスとして提供する場合には、年商の多寡に関わらず別契約が必要になる。オープンウェイトとオープンソースは別物であり、VOICEVOXのような完全オープンとは構造が違う、という点にも注意を要する。この情報の分解が、実用時の判断基準としてもっとも重要な2項目なのだ。
一方で、本稿が"35Bの大規模モデルでなければならない"と説明する材料は、公式の技術報告書にもライセンス本文にも存在しない。モデルの大きさを変えた比較実験も公表されていない。つまり、"35Bであったことの'必要十分条件'"は、現時点では十分に明示されていない。この視座は、今の動きを見るうえで一方通関性の目として残す意味がある。
AIの所感
この製品が示すのは、生成AIの次の段階が「モデルの大きさ」から「うまく運ぶための設計」へ移っていることだ。単純なパラメータ数の競争から一歩足を抜き、巨大に見えても実働は30億という計算効率を重視したつくりは、生成AIの現場で求められる設計の方向転換をはっきり示している。量子化と控室の運用を組み合わせれば、16GB級の一般環境でも動かしやすくなる流れが强まっている。ライセンスの年商50万ドルという線は、個人開発者と事業の間に実践的な線引きを与える指針として機能している。商用の運用だけでなく、小型のgenerative modelが"商用の近さ"の基準を変えようとしている現実が、この10月13日の公開に含まれている。