酒呑ガジェット

〜静かな環境であなたに...こちらは音のでないコンテンツです。〜

【速報】NVIDIAがAIの常識を破壊。新GPU「Blackwell Ultra」でトークン単価が激変する

【速報】NVIDIAがAIの常識を破壊。新GPU「Blackwell Ultra」でトークン単価が激変する

NVIDIAが次世代AIアクセラレータ「Blackwell Ultra GPU」を正式発表した。従来のBlackwellから約50%の性能向上を達成し、2080億トランジスタを搭載。NVFP4精度で15ペタフロップスの推論性能を実現し、GPUあたり288GBのHBM3Eメモリ、1.8TB/秒のNVLink 5、PCIe Gen 6など、演算からメモリ、インターコネクト、ソフトウェアに至るまで全方位をアップデートした。

特に注目すべきは「NVFP4」と呼ばれる新しい精度フォーマットだ。16要素ごとのFP8スケールとテンソル全体のFP32スケールによる2段階スケーリングを採用し、FP8に近い精度を保ちながらメモリ使用量と消費電力を大幅に削減する。これにより同一ラックあたりの同時セッション数とトークン生産量が増加し、トークン単価の大幅な低下が期待される。

チップ設計では、2枚のレチクルサイズのダイをNV-HBI(10TB/秒級)で結合するデュアルレチクル設計を採用。TSMCの4NPプロセスで現実的な歩留まりとコストを確保しつつ、CUDAからは単一アクセラレータとして見える統合を実現した。アテンション向けにSpecial Function Unit(SFU)を強化し、MIGやTEE、NVLink保護、NVJPEGハードウェア、復号エンジンなどの実用機能も拡張されている。

NVIDIA Blackwell Ultra GPUを搭載した最新AIデータセンターのサーバールーム。液体冷却システムと高密度GPUラックが並ぶ

データセンター経済への影響は計り知れない。NVFP4でモデル常駐密度が上がり、アテンション高速化でTTFT(初回トークン出力までの時間)とトークン毎秒が同時に改善する。TGPは最大1400W級に達するが、ホッパー比の効率改善でトークンあたりエネルギーは低下するため、課金モデルはGPU時間から結果課金・SLA連動へとシフトする可能性が高い。

サプライチェーン全体にも波及効果が及ぶ。製造はTSMCの4NPとCoWoSが鍵を握り、HBM3EはSK海力士とマイクロンが主力。パッケージはASEとアムコ、基板はイビデンとユニマイクロン、PCBは各社、サーバー完成品はスーパーマイクロなどが受益する構図だ。ネットワークではアリスタとブロードコムが中核を担い、NVLinkスイッチとイーサネットスケールアウトの価値提案がより鮮明になる。

クラウド業界ではAWS、Google Cloud、Azure、Oracle、CoreWeaveなどがNVLinkごとGrace連携を前提に推論特化リージョンを増強する見通し。競合のAMDは次世代MIで大容量HBMとトランスフォーマー最適化を進めるが、NVFP4相当の精度戦略やNVLinkファブリック、MIG/TEEの成熟度で差が出やすい。IntelのGaudi、GoogleのTPU、AWSのTrainium/Inferentia、MicrosoftのMaia/Cobaltはコスト優位領域を切り取るが、モデルの多様性とソフトウェア互換性ではNVIDIAが当面優位と見られている。

また、GPU内TEE拡張とNVLink保護は金融や医療、公共分野での機密推論を後押しする。MIGによるテナント分離と信頼実行環境の保証により、SLA設計が現実的になり、オンプレミスの小規模AIファクトリーが増加する兆しもある。スペシャルファンクションユニットの強化はアテンションのホットパスを直撃し、初回トークンまでの時間短縮と長大コンテキスト処理の快適性向上につながる。コールセンター支援、コード補完、レコメンド、広告生成など即時性が求められる領域で商用効果が大きいと予想される。

一方で、NVL72のような高密度構成では液体冷却が前提となり、パワー閉じ込めでピーク電力を抑えつつ、CDUや配管、バルブまでの設計が必須になる。評価指標はPUEに加え、ラックあたりおよびMWあたりの有効トークン生産量へと拡張すべきだと専門家は指摘する。

ネットの反応

あと少しで1000人!

ゆっくり解説は棒読みすぎて3倍速でも不快で聞けないので、他の読み上げソフトを使っていただけると助かります。

もう自動車のエンジンが水冷配管ブロックに内蔵してるようにパッケージレベルで液冷組み込むべきじゃないかなあ発熱箇所の最適化もできるし

AIの所感

Blackwell Ultraは単なるフロップスの積み増しではなく、推論経済のボトルネックを順番に外していく全方向的な改良である。NVFP4でモデル常駐密度と電力効率を上げ、アテンション高速化でTTFTとトークン毎秒を引き上げ、HBM3EとNVLink 5でスケールの壁を押し下げ、MIGとTEEで企業導入の心理的障壁を下げる。Grace C2Cで連携したスーパーチップとNVL72というラックスケールの統合まで含め、AIファクトリーを一つの「製品」として成立させた点が画期的だ。市場では上流サプライの増産、クラウドと専業のキャパシティ確保、電力と冷却の制約管理、量子化を含むソフトウェア最適化が勝敗を分ける。トークン単価の低下が進むことで、AI活用の民主化がさらに加速するだろう。

-パソコン