AMD Instinct MI300A vs NVIDIA H100 PCIe 80 GB

GPU比較結果

以下は、主要なパフォーマンス特性、消費電力などに基づいた AMD Instinct MI300ANVIDIA H100 PCIe 80 GB GPU の比較です。

利点

  • より高い ブーストクロック: 2100MHz (2100MHz vs 1755MHz)
  • より大きな メモリサイズ: 128GB (128GB vs 80GB)
  • より高い 帯域幅: 5300 GB/s (5300 GB/s vs 2039 GB/s)
  • もっと新しい 発売日: December 2023 (December 2023 vs March 2022)

基本

AMD
レーベル名
NVIDIA
December 2023
発売日
March 2022
Professional
プラットホーム
Professional
Instinct MI300A
モデル名
H100 PCIe 80 GB
Instinct
世代
Hopper
1000MHz
ベースクロック
1095MHz
2100MHz
ブーストクロック
1755MHz
PCIe 5.0 x16
バスインターフェース
PCIe 5.0 x16
-
トランジスタ
80,000 million
-
テンソルコア
?
テンソルコアは深層学習専用に設計された特化型プロセッサで、FP32トレーニングと比較して高いトレーニングと推論性能を提供します。コンピュータビジョン、自然言語処理、音声認識、テキストから音声への変換、個別の推奨などの領域で迅速な計算を可能にします。テンソルコアの最も注目すべき応用は、DLSS(Deep Learning Super Sampling)とAI Denoiserのノイズリダクションです。
456
-
TMU
?
テクスチャマッピングユニット(TMUs)は、二進画像を回転、スケーリング、歪曲して、それを3Dモデルの任意の平面にテクスチャとして配置することができるGPUのコンポーネントです。このプロセスはテクスチャマッピングと呼ばれます。
456
-
ファウンドリ
TSMC
-
プロセスサイズ
4 nm
-
アーキテクチャ
Hopper

メモリ仕様

128GB
メモリサイズ
80GB
HBM3
メモリタイプ
HBM2e
8192bit
メモリバス
?
メモリバス幅とは、1クロックサイクル内にビデオメモリが転送できるデータのビット数を指します。バス幅が大きいほど、一度に転送できるデータ量が多くなります。メモリバンド幅の計算式は次の通りです:メモリバンド幅 = メモリ周波数 x メモリバス幅 / 8。
5120bit
5200MHz
メモリクロック
1593MHz
5300 GB/s
帯域幅
?
メモリバンド幅は、グラフィックチップとビデオメモリ間のデータ転送速度を指します。単位はバイト/秒で、計算式は次の通りです:メモリバンド幅 = 動作周波数 × メモリバス幅 / 8ビット。
2039 GB/s

理論上の性能

-
ピクセルレート
?
ピクセル塗りつぶし率は、グラフィックスプロセッシングユニット(GPU)が1秒あたりにレンダリングできるピクセル数を指します。これは、MPixels/s(百万ピクセル/秒)またはGPixels/s(十億ピクセル/秒)で測定されます。これはグラフィックスカードのピクセル処理性能を評価するために最も一般的に使用される指標です。
42.12 GPixel/s
1496 GTexel/s
テクスチャレート
?
テクスチャ塗りつぶし率は、GPUが1秒間にピクセルにマッピングできるテクスチャマップ要素(テクセル)の数を指します。
800.3 GTexel/s
980.6 TFLOPS
FP16 (半精度)
?
GPUパフォーマンスを測定する重要な指標は浮動小数点計算能力です。半精度浮動小数点数(16ビット)は、精度が低くても許容可能な機械学習のようなアプリケーションで使用されます。単精度浮動小数点数(32ビット)は、一般的なマルチメディアやグラフィックス処理のタスクで使用され、倍精度浮動小数点数(64ビット)は、広範で高精度が求められる科学計算に必要です。
1513 TFLOPS
61.3 TFLOPS
FP64 (倍精度)
?
GPUパフォーマンスを測定する重要な指標は浮動小数点計算能力です。倍精度浮動小数点数(64ビット)は、広範で高精度が求められる科学計算に必要です。単精度浮動小数点数(32ビット)は、一般的なマルチメディアやグラフィックス処理のタスクで使用されます。半精度浮動小数点数(16ビット)は、精度が低くても許容可能な機械学習のようなアプリケーションで使用されます。
25.61 TFLOPS
120.148 TFLOPS
FP32 (浮動小数点)
?
GPU のパフォーマンスを測定するための重要な指標は、浮動小数点コンピューティング能力です。 単精度浮動小数点数 (32 ビット) は一般的なマルチメディアおよびグラフィックス処理タスクに使用されますが、倍精度浮動小数点数 (64 ビット) は広い数値範囲と高精度が要求される科学計算に必要です。 半精度浮動小数点数 (16 ビット) は、精度が低くても許容される機械学習などのアプリケーションに使用されます。
50.196 TFLOPS

その他

-
SM数
?
ストリーミングプロセッサ(SP)は他のリソースとともに、ストリーミングマルチプロセッサ(SM)を形成し、これはGPUの主要コアとも呼ばれます。これらの追加リソースには、ワープスケジューラ、レジスタ、共有メモリなどのコンポーネントが含まれます。SMは、レジスタや共有メモリが希少なリソースであるGPUの中心部と考えることができます。
114
14592
シェーディングユニット
?
最も基本的な処理単位はストリーミングプロセッサ(SP)で、特定の指示とタスクが実行されます。GPUは並行計算を行い、複数のSPが同時にタスクを処理します。
14592
16 KB (per CU)
L1キャッシュ
256 KB (per SM)
16MB
L2キャッシュ
50MB
760W
TDP
350W
-
Vulkanのバージョン
?
Vulkanは、Khronos Groupによるクロスプラットフォームのグラフィックスおよび計算APIで、高性能と低CPU負荷を提供します。開発者がGPUを直接制御し、レンダリングのオーバーヘッドを減らし、マルチスレッドとマルチコアプロセッサをサポートします。
N/A
-
OpenCLのバージョン
3.0
-
OpenGL
N/A
-
CUDA
9.0
-
DirectX
N/A
-
電源コネクタ
1x 16-pin
-
ROP
?
ラスタオペレーションパイプライン(ROPs)は、ゲーム内の照明や反射計算を主に取り扱い、アンチエイリアシング(AA)、高解像度、煙、火などの効果を管理します。ゲームのAAと照明効果が高いほど、ROPsの性能要求が高くなります。
24
-
シェーダモデル
N/A
-
推奨PSU
750W

ベンチマーク

FP32 (浮動小数点) / TFLOPS
Instinct MI300A
120.148 +139%
H100 PCIe 80 GB
50.196