NVIDIA L40

NVIDIA L40

GPUについて

NVIDIAのL40 GPUは、卓越した性能を誇るパワーハウスであり、卓越した仕様を持ち、プロのアプリケーションにおいて確かな選択肢となります。ベースクロック速度は735MHzで、ブーストクロック速度は2490MHzであり、要求の厳しいタスクに対して速く効率的なパフォーマンスを提供します。48GBのGDDR6メモリと2250MHzのメモリクロックにより、大規模なデータセットや複雑なシミュレーションを容易に処理できます。 L40 GPUの最も印象的な側面の1つは、18176のシェーディングユニットと96MBのL2キャッシュであり、それにより90.52 TFLOPSという信じられないほどの理論上のパフォーマンスを実現しています。この処理能力の高さは、深層学習、科学的シミュレーション、複雑な3Dレンダリングなどのタスクに適しています。 その能力の高さにも関わらず、L40 GPUは300Wという合理的なTDPで動作することができ、提供するパフォーマンスに比して比較的省電力です。ただし、このパワーハウスを最適な状態で動作させるためには、効果的な冷却ソリューションが必要です。 全体として、NVIDIAのL40 GPUは、仕事に対して妥協のないパフォーマンスを求めるプロフェッショナルにとって最高の選択肢です。高いクロック速度、豊富なメモリ、そして印象的な理論上のパフォーマンスの組み合わせにより、幅広いプロフェッショナルアプリケーションにおいて多目的で信頼性のある選択肢となります。科学的研究、コンテンツ作成、AI開発など、L40 GPUは仕事を成功させるために必要なパフォーマンスを提供します。

基本

レーベル名
NVIDIA
プラットホーム
Professional
発売日
October 2022
モデル名
L40
世代
Tesla Ada
ベースクロック
735MHz
ブーストクロック
2490MHz
バスインターフェース
PCIe 4.0 x16
トランジスタ
76,300 million
RTコア
142
テンソルコア
?
テンソルコアは深層学習専用に設計された特化型プロセッサで、FP32トレーニングと比較して高いトレーニングと推論性能を提供します。コンピュータビジョン、自然言語処理、音声認識、テキストから音声への変換、個別の推奨などの領域で迅速な計算を可能にします。テンソルコアの最も注目すべき応用は、DLSS(Deep Learning Super Sampling)とAI Denoiserのノイズリダクションです。
568
TMU
?
テクスチャマッピングユニット(TMUs)は、二進画像を回転、スケーリング、歪曲して、それを3Dモデルの任意の平面にテクスチャとして配置することができるGPUのコンポーネントです。このプロセスはテクスチャマッピングと呼ばれます。
568
ファウンドリ
TSMC
プロセスサイズ
4 nm
アーキテクチャ
Ada Lovelace

メモリ仕様

メモリサイズ
48GB
メモリタイプ
GDDR6
メモリバス
?
メモリバス幅とは、1クロックサイクル内にビデオメモリが転送できるデータのビット数を指します。バス幅が大きいほど、一度に転送できるデータ量が多くなります。メモリバンド幅の計算式は次の通りです:メモリバンド幅 = メモリ周波数 x メモリバス幅 / 8。
384bit
メモリクロック
2250MHz
帯域幅
?
メモリバンド幅は、グラフィックチップとビデオメモリ間のデータ転送速度を指します。単位はバイト/秒で、計算式は次の通りです:メモリバンド幅 = 動作周波数 × メモリバス幅 / 8ビット。
864.0 GB/s

理論上の性能

ピクセルレート
?
ピクセル塗りつぶし率は、グラフィックスプロセッシングユニット(GPU)が1秒あたりにレンダリングできるピクセル数を指します。これは、MPixels/s(百万ピクセル/秒)またはGPixels/s(十億ピクセル/秒)で測定されます。これはグラフィックスカードのピクセル処理性能を評価するために最も一般的に使用される指標です。
478.1 GPixel/s
テクスチャレート
?
テクスチャ塗りつぶし率は、GPUが1秒間にピクセルにマッピングできるテクスチャマップ要素(テクセル)の数を指します。
1414 GTexel/s
FP16 (半精度)
?
GPUパフォーマンスを測定する重要な指標は浮動小数点計算能力です。半精度浮動小数点数(16ビット)は、精度が低くても許容可能な機械学習のようなアプリケーションで使用されます。単精度浮動小数点数(32ビット)は、一般的なマルチメディアやグラフィックス処理のタスクで使用され、倍精度浮動小数点数(64ビット)は、広範で高精度が求められる科学計算に必要です。
90.52 TFLOPS
FP64 (倍精度)
?
GPUパフォーマンスを測定する重要な指標は浮動小数点計算能力です。倍精度浮動小数点数(64ビット)は、広範で高精度が求められる科学計算に必要です。単精度浮動小数点数(32ビット)は、一般的なマルチメディアやグラフィックス処理のタスクで使用されます。半精度浮動小数点数(16ビット)は、精度が低くても許容可能な機械学習のようなアプリケーションで使用されます。
1414 GFLOPS
FP32 (浮動小数点)
?
GPU のパフォーマンスを測定するための重要な指標は、浮動小数点コンピューティング能力です。 単精度浮動小数点数 (32 ビット) は一般的なマルチメディアおよびグラフィックス処理タスクに使用されますが、倍精度浮動小数点数 (64 ビット) は広い数値範囲と高精度が要求される科学計算に必要です。 半精度浮動小数点数 (16 ビット) は、精度が低くても許容される機械学習などのアプリケーションに使用されます。
92.33 TFLOPS

その他

SM数
?
ストリーミングプロセッサ(SP)は他のリソースとともに、ストリーミングマルチプロセッサ(SM)を形成し、これはGPUの主要コアとも呼ばれます。これらの追加リソースには、ワープスケジューラ、レジスタ、共有メモリなどのコンポーネントが含まれます。SMは、レジスタや共有メモリが希少なリソースであるGPUの中心部と考えることができます。
142
シェーディングユニット
?
最も基本的な処理単位はストリーミングプロセッサ(SP)で、特定の指示とタスクが実行されます。GPUは並行計算を行い、複数のSPが同時にタスクを処理します。
18176
L1キャッシュ
128 KB (per SM)
L2キャッシュ
96MB
TDP
300W
Vulkanのバージョン
?
Vulkanは、Khronos Groupによるクロスプラットフォームのグラフィックスおよび計算APIで、高性能と低CPU負荷を提供します。開発者がGPUを直接制御し、レンダリングのオーバーヘッドを減らし、マルチスレッドとマルチコアプロセッサをサポートします。
1.3
OpenCLのバージョン
3.0
OpenGL
4.6
DirectX
12 Ultimate (12_2)
CUDA
8.9
電源コネクタ
1x 16-pin
シェーダモデル
6.6
ROP
?
ラスタオペレーションパイプライン(ROPs)は、ゲーム内の照明や反射計算を主に取り扱い、アンチエイリアシング(AA)、高解像度、煙、火などの効果を管理します。ゲームのAAと照明効果が高いほど、ROPsの性能要求が高くなります。
192
推奨PSU
700W

ベンチマーク

FP32 (浮動小数点)
スコア
92.33 TFLOPS
Blender
スコア
4336
Vulkan
スコア
249130
OpenCL
スコア
292357

他のGPUとの比較

FP32 (浮動小数点) / TFLOPS
166.668 +80.5%
L40
92.33
70.374 -23.8%
62.546 -32.3%
51.381 -44.4%
Blender
12832 +195.9%
L40
4336
1222 -71.8%
203 -95.3%
Vulkan
254749 +2.3%
L40
249130
83205 -66.6%
54373 -78.2%
30994 -87.6%
OpenCL
362331 +23.9%
L40
292357
92041 -68.5%
66428 -77.3%
46137 -84.2%