酒呑ガジェット

〜静かな環境であなたに...こちらは音のでないコンテンツです。〜

【朗報】グラボの中のコア、3種類に分担されてる「一番強いコアを全部詰めればよかったんじゃない説」が崩れる瞬間

【朗報】あなたのグラボの中のコア、3種類に分担されていた「一番強いコアを全部詰め込めばいい、ではなかった」

新しいグラフィックボードを物色しながらスペック表を開くと、そこには「CUDAコア」「Tensorコア」「RTコア」と、まるで専門用語の寄せ集めのような並びが並んでいる。「最強の演算回路をひとつ作って、それを山のように詰め込めば、ゲームもAIも全部速くなるんじゃないか」。そう思うのは自然な疑問だ。ところが実際のGPUは、役割の違う3種類の演算コアをひとつのチップに同居させ、得意な計算を分担させる設計がとられている。なぜ統一されないのか。その答えは「速さ」ではなく、チップという限られた土地をめぐる設計者たちの熾烈な縄張り争いの中にあった。

まずCPUとGPUは「速さ」の定義が違う

分担の理由を話す前に、前提となるCPUとGPUの違いを押さえておく必要がある。CPUは、1つの命令にかかる時間を徹底的に削る「遅延」の勝負で設計されている。よく使うデータは近いキャッシュに置き、条件分岐では次に進む経路を先読みし、ある命令が待ち状態なら、準備の整った別の命令を先に動かす「アウトオブオーダー実行」で手止まりを埋める。計算回路そのものより、始まるまでの待ち時間との戦いなのだ。

対するGPUが追いかけるのは、単位時間あたりどれだけの計算をまとめてこなせるかという「スループット」。多数の単純な演算ユニットを並べ、同じ形の計算を大量のデータへ一斉に適用する構成だ。では、メモリからデータが届くまでの待ち時間で計算が止まってしまわないのか。ここで効いてくるのがSIMT(シングル・スレッド・マルチ・スレッド)という発想だ。NVIDIAのGPUでは32個のスレッドを「ワープ」という1つの束にまとめ、あるワープがメモリ待ちになったら、準備の整った別ワープの命令をスケジューラが即座に発行する。待ち時間を、他の仕事で塗りつぶしてしまう。「止まっている時間を見つけては埋める」――これがGPUが大量のスレッドを動かす本当の理由だ。

半導体チップのダイの上に、青色・赤色・緑色に発光する3つの演算ブロックが配され、データの光の帯が行き交う様子を描いた概念図

3つのコア、それぞれの「得意分野」

そのうえで3コアの正体を見ていこう。まずCUDAコアは、GPU本体ともいえる汎用の演算回路だ。SIMT方式で幅広く動き、画像の陰影を決めるシェーディングのようなグラフィックス処理から、一般的な数値計算までこなす「何でも屋」である。柔軟性が武器だが、何でもできる分、ひとつの計算あたりの効率には限界がある。

2つ目のTensorコアは、行列の掛け算と足し算に特化した専用回路だ。AIの学習や推論、ディープラーニングの演算は、巨大な行列の積の組み合わせで表現できる。この「同じ形の計算の塊」を、汎用コアの代わりに専用回路が一括で片付けることで、けた違いの処理量さばきを実現する。3つ目のRTコアは、光線の軌跡を計算するレイトレーシングの専用回路だ。光が何に当たるかを探す処理では、シーン全体をまともに調べるのではなくBVH(バウンディング・ボリューム・階層)という木構造を高速でたどり、交差の候補を素早く絞り込む。この「木をたどる」「線と三角形が交わるかを判定する」という単調かつ熾烈な作業を、ソフトウェアではなく回路そのもので行わせるのがRTコアだ。

「専用回路」には代償がある

では、専用回路ばかり増やせばいいのか。ここが設計者を最も悩ませる部分だ。半導体の世界には「アムダールの法則」という壁がある。元の実行時間の50%が行列計算だった場合、その部分を専用回路で完全にゼロにできたとしても、プログラム全体の高速化は最大で2倍まで。残りの50%が足を引っ張り続けるからだ。専用回路の恩恵は、対象の計算が実行時間に占める割合に比例して薄まる。

さらに物理的な代償がある。専用回路は、使われない時間帯にもチップの面積を占拠し続ける。RTコア非対応のゲームを遊んでいる間、RTコアは基本的にただ座っている。同じ面積にCUDAコアやキャッシュを積んだ方が得だった処理も存在する。しかも演算していなくても、電源の入ったトランジスタからは微弱な電流が漏れ続ける「リーク電力」が発生する。休む回路へのクロック信号を止めて消費を抑える「クロックゲーティング」という手立てはあるが、面積そのものは消えない。同じシリコンウェハから切り出せるチップの数は、面積が大きいほど少なくなるから、製造コストにも直結する。限られた土地に、いつでも使える万能な部屋を増やすか、特定の時に絶大な専用ルームを設けるか。GPU設計とは、性能・電力・面積の三つ巴による土地勘定の連続なのだ。

1枚のゲーム画面で見る「コアのバトンリレー」

実際のゲーム現場で、3コアがどう連携するかを追ってみる。レイトレーシングとDLSS(超解像)を有効にした3Dゲームの1フレームは、まずCUDAコアのシェーダが頂点変換を担い、専用のラスタライザが三角形の覆われ具合を決め、ピクセルの色が計算される。次に「水面の映り込みを調べたい」という箇所から光線を発射し、その光線が何に当たるかをRTコアへ依頼する。RTコアがBVHのツリーを光速でたどり、光線と三角形の交差を一瞬で突き止める。当たった場所が分かったら、バトンは再びCUDAコアに戻り、ヒットシェーダが表面の質感や光の強さから反射の色を仕上げる。そして重い処理は解像度を落として描き、Tensorコアを使ってDLSSの超解像で高解像度の映像に再生する――前のフレームの情報も組み合わせながら、低解像度の映像から鮮明な一枚画像を再構成する。同じ1フレームの中で、CUDAコアが色を計算し、RTコアが反射を探し、Tensorコアが解像度を引き上げる。まさに3コアのチームプレイだ。

AIの現場でも分担は同じだ。トランスフォーマー型のモデルでは、巨大な行列の掛け算はTensorコアへ、整列などの細かな処理はCUDAコアへ、と振り分けられる。どこを速くすれば効くのかを定量する方法として「ルーフラインモデル」という性能解析の考え方もある。横軸に演算強度(メモリから運ぶデータ量に対する計算量)、縦軸に性能をとると、右上がりの線はメモリ帯域が決める上限、そこから平坦に伸びる線は演算回路の上限を示す。データの読み書きが多い画像フィルタは、計算回路を増やしても帯域が先に壁になる。逆に、入力を何度も使える大きな行列演算は演算強度が高く、Tensorコアの実力を引き出しやすい。だからこそ専用回路の配分は「その製品で何を速くしたいか」で変わる。データセンターでAI学習を主戦場にするGPUならTensorコアとメモリ帯域に投資が集中し、コストを抑えたエントリー帯ではRTコアを積まないモデルも存在する。さらに特化の果てには、GoogleのTPUのようなAI専用チップすら存在する。何でもできる柔軟性か、一点突破の効率か――そのバランス感覚こそが、現代のGPU設計の核心だ。

ネットの反応

スペック表のCUDAコア数しか見てなかった自分が恥ずかしい。RTコア何個積みって書いてある意味やっとわかった

「休んでいても面積を占拠する」って話、半導体設計のシンドさを端的に表しててgood

アムダールの法則で50%が対象処理でも最大2倍止まりって数字、体感より厳しくない?

DLSSがTensorコア使ってたのは初耳。AIで画質上げてたのか。レイトレとDLSS両方ONにした時の重さの理由が繋がった

エントリー帯にRTコア非積載って選択肢があるのは知らなかった。用途別の割り切りが進んでるんだな

TPUまで行くともうGPUですらないのに、GPU側も専用回路で応戦してるの、設計競争の歴史そのもの

リーク電力の説明入れるの丁寧すぎる。寝てる回路にも電気漏れてるって、電気代に置き換えると地味に効く話だ

AIの所感

この話の核心は「性能の最大化」ではなく「土地勘定の最適化」だと感じている。一見、CUDA・Tensor・RTコアの住み分けは分かりやすい機能分化に見えるが、実態は「使われない時間に何平方ミリを寝かせるか」という容赦ないコスト計算の帰結だ。近年のGPUが巨大化・高騰化していった流れは、この土地勘定が「AI需要」という新しい大金主に塗り替えられた結果でもあり、汎用コアの住人が専用コアに席を譲り続けてきた歴史でもある。興味深いのは、専用回路の進化がいつか必ず「汎用化」に折り返す点で、GPU自体がかつての固定機能回路から汎用化してきた存在だ。TensorコアやRTコアも、需要が普遍化すればやがて統合されていくだろう。スペック表のコア名を読む時は「この部屋は誰のために空けられたのか」を考えると、チップ設計者の逡巡まで見えてきて、数字が少し違って見えてくる。

-パソコン