NVIDIA H100 ── AI 計算インフラの基幹

NVIDIA H100 は、NVIDIA が2022年3月22日の GTC で発表したデータセンター向け GPU である。新しい Hopper アーキテクチャを採用した最初の製品で、名は米国の計算機科学者 Grace Hopper に由来する。発表時、NVIDIA は提供開始を第3四半期からとし、9月20日に量産入りを発表した。パートナー各社の最初の製品は10月に出始める予定とされ、AWS・Google Cloud・Microsoft Azure・Oracle Cloud のクラウドでの提供は翌2023年からだった。発表から出荷まで約半年の開きがある点は、日付を問う読者が最初に押さえておくべきところである。

H100 は単体のグラフィックスカードではなく、大規模言語モデル（LLM）の学習と推論を担う計算部品として設計された。同じ年の11月に ChatGPT が公開され、生成 AI の計算需要が急増すると、H100 はその需要を受け止める製品の一つになっていく。

H100 の主な仕様

NVIDIA の発表と技術ブログによる、2022年の発表時点の値である。

GH100 ダイそのものは 144 個の SM と 60MB の L2 キャッシュを持つが、製品の H100 では一部を無効化し、L2 は 50MB になっている。NVIDIA の現行の製品ページは、H100 SXM のメモリ帯域を 3.35TB/s、FP8 Tensor コア性能をスパース時 3,958 TFLOPS としている。のちに追加された H100 NVL は 94GB・3.9TB/s で、発表時の PCIe 版とは別の製品である。

Transformer Engine と FP8

H100 の中心にある新機能は Transformer Engine だ。NVIDIA の説明では、ソフトウェアと Hopper の Tensor コアを組み合わせ、Transformer の学習と推論を速めるために設計された。層ごとに 8 ビット浮動小数点（FP8）と 16 ビットの計算を動的に選び分ける。

FP8 には 2 つの形式がある。指数 4 ビット・仮数 3 ビットの E4M3 と、指数 5 ビット・仮数 2 ビットの E5M2 である。ビット数を半分にすれば同じ回路でより多くの演算をこなせるが、精度は落ちる。その落ち方を層ごとに見張るのが Transformer Engine の役割だった。

ほかに、複数の SM にまたがってスレッドが協調するスレッドブロッククラスタ、大きなテンソルを転送する専用ユニット（TMA）、動的計画法を速める DPX 命令が加わった。

最大9倍、最大30倍の読み方

発表で目立った数字は、どれも NVIDIA 自身の比較である。3950億パラメータの Mixture of Experts モデルの学習で前世代（Ampere 世代の A100）より最大9倍速く、Megatron 530B を使ったチャットボットの推論で最大30倍のスループット、というものだ。比較の精度や構成の条件は、発表文には書かれていない。

NVIDIA の技術ブログには、より条件のはっきりした比較がある。クロックあたりで FP64 と FP32 の処理速度は A100 の3倍、FP8 Tensor コアは A100 の FP16 に対して6.4倍、という値だ。後者は精度の異なる演算どうしの比較である点に注意したい。後継の Blackwell B200 の発表でも、同じ型の数字が繰り返された。

発表から出荷まで

量産発表の時点で NVIDIA は、主要メーカーから年内に50機種以上のサーバーが出ると見込み、8基の H100 を積む DGX H100 の受注を始めた。メインストリーム向けサーバーの H100 には NVIDIA AI Enterprise の5年ライセンスが付いた。早期に導入する研究機関として、Los Alamos 国立研究所やスイスの CSCS などと並んで筑波大学の名も挙がっている。

輸出規制という影

H100 は発売前から地政学の対象だった。NVIDIA が SEC に提出した2022年8月の書類によると、米政府は8月26日、中国（香港を含む）とロシアへの A100 と、まだ出荷前の H100 の輸出に、即日発効の許可要件を課した。軍事用途への転用リスクが理由とされ、NVIDIA は第3四半期の見通しのうち約4億ドルの対中売上が影響を受けうると書いた。9月1日付の続報では、H100 の開発継続に必要な輸出は認められている。

NVIDIA は中国向けに性能を削った H800 などを用意したが、2023年10月の規則改正でそれらも許可の対象になった。米政府は当初30日後とされた発効を10月23日に即日へ前倒しし、NVIDIA は世界的な需要の強さから短期的な業績への大きな影響は見込まないと開示している。2025年1月の DeepSeek-R1 は、この H800 で学習された基盤モデルの上に作られていた。2025年12月にはトランプ大統領が、後継の H200 を審査済みの中国顧客に25%の手数料付きで販売することを認めたと報じられている（Blackwell と Rubin は対象外）。

需要の急増と、その後

NVIDIA の2024会計年度（2024年1月期）の売上高は609億ドルで前年比126%増、データセンター部門は217%増の475億ドルだった。2024年6月18日には NVIDIA の時価総額が一時世界最大になった（詳細）。

製品の系譜は H200（2023年発表）、Blackwell B200（2024年）へと続き、2026年5月31日、NVIDIA は後継プラットフォーム Vera Rubin が量産段階に入ったと発表した。ただし、これらの計算基盤の土台にある並列プログラミングの仕組みは、2007年に公開された CUDA から地続きである。

同じ時代の出来事は ハードウェアの年表 と AI の年表 に、会社については NVIDIA と Jensen Huang のページにある。