NVIDIA H100 PCIe 96 GB

NVIDIA H100 PCIe 96 GB

GPUについて

NVIDIA H100 PCIe 96 GB GPUは、高性能コンピューティングおよびデータ集約型アプリケーション向けに設計されたプロフェッショナルグレードのグラフィックス処理ユニットです。ベースクロック速度は1665MHz、ブーストクロック速度は1837MHzであり、要求の厳しい作業にも優れた処理能力を提供します。 NVIDIA H100 GPUの特筆すべき機能の1つは、HBM3メモリの96GBという大容量です。これにより、大規模なデータセットや複雑なシミュレーションを容易に処理できます。さらに、高速なメモリクロック速度の1313MHzは、大量のデータを迅速にアクセスし処理する能力をさらに高めます。 16896個のシェーディングユニットと50MBのL2キャッシュを備えたH100 GPUは、高精度で効率的に複雑なグラフィックスやコンピューティング作業を処理できます。驚異的な理論性能の62.08 TFLOPSは、このGPUが最も要求の厳しいタスクにも容易に対処できることを保証します。 700WのTDPはH100の高電力要件を反映しており、頑丈な冷却および電力供給システムを備えたワークステーションやサーバーに適しています。ただし、この高い電力要件は、このGPUの優れた性能と機能によって正当化されています。 全体として、NVIDIA H100 PCIe 96 GB GPUは、大規模なシミュレーション、ディープラーニング、およびその他のデータ集約型作業を行う専門家や研究者に適したパワーハウスなグラフィックスカードです。高いメモリ容量、処理能力、効率的なアーキテクチャの組み合わせは、作業に最高のパフォーマンスを必要とする人々にとって貴重な資産となります。

基本

レーベル名
NVIDIA
プラットホーム
Professional
発売日
March 2022
モデル名
H100 PCIe 96 GB
世代
Hopper
ベースクロック
1665MHz
ブーストクロック
1837MHz
バスインターフェース
PCIe 5.0 x16

メモリ仕様

メモリサイズ
96GB
メモリタイプ
HBM3
メモリバス
?
メモリバス幅とは、1クロックサイクル内にビデオメモリが転送できるデータのビット数を指します。バス幅が大きいほど、一度に転送できるデータ量が多くなります。メモリバンド幅の計算式は次の通りです:メモリバンド幅 = メモリ周波数 x メモリバス幅 / 8。
5120bit
メモリクロック
1313MHz
帯域幅
?
メモリバンド幅は、グラフィックチップとビデオメモリ間のデータ転送速度を指します。単位はバイト/秒で、計算式は次の通りです:メモリバンド幅 = 動作周波数 × メモリバス幅 / 8ビット。
1681 GB/s

理論上の性能

ピクセルレート
?
ピクセル塗りつぶし率は、グラフィックスプロセッシングユニット(GPU)が1秒あたりにレンダリングできるピクセル数を指します。これは、MPixels/s(百万ピクセル/秒)またはGPixels/s(十億ピクセル/秒)で測定されます。これはグラフィックスカードのピクセル処理性能を評価するために最も一般的に使用される指標です。
44.09 GPixel/s
テクスチャレート
?
テクスチャ塗りつぶし率は、GPUが1秒間にピクセルにマッピングできるテクスチャマップ要素(テクセル)の数を指します。
969.9 GTexel/s
FP16 (半精度)
?
GPUパフォーマンスを測定する重要な指標は浮動小数点計算能力です。半精度浮動小数点数(16ビット)は、精度が低くても許容可能な機械学習のようなアプリケーションで使用されます。単精度浮動小数点数(32ビット)は、一般的なマルチメディアやグラフィックス処理のタスクで使用され、倍精度浮動小数点数(64ビット)は、広範で高精度が求められる科学計算に必要です。
248.3 TFLOPS
FP64 (倍精度)
?
GPUパフォーマンスを測定する重要な指標は浮動小数点計算能力です。倍精度浮動小数点数(64ビット)は、広範で高精度が求められる科学計算に必要です。単精度浮動小数点数(32ビット)は、一般的なマルチメディアやグラフィックス処理のタスクで使用されます。半精度浮動小数点数(16ビット)は、精度が低くても許容可能な機械学習のようなアプリケーションで使用されます。
31.04 TFLOPS
FP32 (浮動小数点)
?
GPU のパフォーマンスを測定するための重要な指標は、浮動小数点コンピューティング能力です。 単精度浮動小数点数 (32 ビット) は一般的なマルチメディアおよびグラフィックス処理タスクに使用されますが、倍精度浮動小数点数 (64 ビット) は広い数値範囲と高精度が要求される科学計算に必要です。 半精度浮動小数点数 (16 ビット) は、精度が低くても許容される機械学習などのアプリケーションに使用されます。
63.322 TFLOPS

その他

SM数
?
ストリーミングプロセッサ(SP)は他のリソースとともに、ストリーミングマルチプロセッサ(SM)を形成し、これはGPUの主要コアとも呼ばれます。これらの追加リソースには、ワープスケジューラ、レジスタ、共有メモリなどのコンポーネントが含まれます。SMは、レジスタや共有メモリが希少なリソースであるGPUの中心部と考えることができます。
132
シェーディングユニット
?
最も基本的な処理単位はストリーミングプロセッサ(SP)で、特定の指示とタスクが実行されます。GPUは並行計算を行い、複数のSPが同時にタスクを処理します。
16896
L1キャッシュ
256 KB (per SM)
L2キャッシュ
50MB
TDP
700W
Vulkanのバージョン
?
Vulkanは、Khronos Groupによるクロスプラットフォームのグラフィックスおよび計算APIで、高性能と低CPU負荷を提供します。開発者がGPUを直接制御し、レンダリングのオーバーヘッドを減らし、マルチスレッドとマルチコアプロセッサをサポートします。
N/A
OpenCLのバージョン
3.0

ベンチマーク

FP32 (浮動小数点)
スコア
63.322 TFLOPS

他のGPUとの比較

FP32 (浮動小数点) / TFLOPS
66.228 +4.6%
63.22 -0.2%
62.648 -1.1%