NVIDIA L40G vs NVIDIA H100 SXM5 96 GB
Risultato del confronto GPU
Di seguito sono riportati i risultati di un confronto tra le schede video
NVIDIA L40G
e
NVIDIA H100 SXM5 96 GB
in base alle caratteristiche prestazionali chiave, nonché al consumo energetico e molto altro.
Vantaggi
- Più alto Boost Clock: 2475MHz (2475MHz vs 1837MHz)
- Più Unità di ombreggiatura: 18176 (18176 vs 16896)
- Più nuovo Data di rilascio: October 2022 (October 2022 vs March 2022)
- Più grandi Dimensione memoria: 96GB (24GB vs 96GB)
- Più alto Larghezza di banda: 3350 GB/s (864.0 GB/s vs 3350 GB/s)
Di base
NVIDIA
Nome dell'etichetta
NVIDIA
October 2022
Data di rilascio
March 2022
Professional
Piattaforma
Professional
L40G
Nome del modello
H100 SXM5 96 GB
Tesla Ada
Generazione
Tesla Hopper
1005MHz
Clock base
1665MHz
2475MHz
Boost Clock
1837MHz
PCIe 4.0 x16
Interfaccia bus
PCIe 5.0 x16
76,300 million
Transistor
80,000 million
142
Core RT
-
568
Core Tensor
?
I Tensor Cores sono unità di elaborazione specializzate progettate specificamente per l'apprendimento profondo. Consentono calcoli rapidi in aree come la visione artificiale, l'elaborazione del linguaggio naturale, il riconoscimento vocale, la conversione da testo a voce e le raccomandazioni personalizzate.
528
568
TMUs
?
Le unità di mappatura texture (TMUs) servono come componenti della GPU, in grado di ruotare, scalare, distorcere immagini binarie e poi posizionarle come texture su qualsiasi piano di un dato modello 3D. Questo processo è chiamato mappatura texture.
528
TSMC
Fonderia
TSMC
4 nm
Dimensione del processo
4 nm
Ada Lovelace
Architettura
Hopper
Specifiche della memoria
24GB
Dimensione memoria
96GB
GDDR6
Tipo di memoria
HBM3
384bit
Bus memoria
?
La larghezza del bus di memoria si riferisce al numero di bit di dati che la memoria video può trasferire in un singolo ciclo di clock. Maggiore è la larghezza del bus, maggiore è la quantità di dati che può essere trasmessa istantaneamente. La larghezza del bus di memoria è un parametro cruciale della memoria video. La larghezza di banda della memoria si calcola così: Larghezza di banda della memoria = Frequenza della memoria x Larghezza del bus di memoria / 8.
5120bit
2250MHz
Clock memoria
1313MHz
864.0 GB/s
Larghezza di banda
?
La larghezza di banda della memoria si riferisce alla velocità di trasferimento dati tra il chip grafico e la memoria video. Si misura in byte al secondo e la formula per calcolarla è: larghezza di banda della memoria = frequenza di lavoro × larghezza del bus di memoria / 8 bit.
3350 GB/s
Prestazioni teoriche
475.2 GPixel/s
Tasso di pixel
?
Il tasso di riempimento dei pixel si riferisce al numero di pixel che una unità di elaborazione grafica (GPU) può renderizzare al secondo, misurato in MPixel/s o GPixel/s. È la metrica più comunemente usata per valutare le prestazioni di elaborazione dei pixel di una scheda grafica.
44.09 GPixel/s
1406 GTexel/s
Tasso di texture
?
Il tasso di riempimento della texture si riferisce al numero di elementi di mappa texture (texel) che una GPU può mappare su pixel in un secondo.
969.9 GTexel/s
89.97 TFLOPS
FP16 (metà)
?
Una metrica importante per misurare le prestazioni della GPU è la capacità di calcolo in virgola mobile. I numeri in virgola mobile a metà precisione (16 bit) vengono utilizzati per applicazioni come l'apprendimento automatico, dove è accettabile una precisione inferiore.
248.3 TFLOPS
1406 GFLOPS
FP64 (doppio)
?
Una metrica importante per misurare le prestazioni della GPU è la capacità di calcolo in virgola mobile. I numeri in virgola mobile a doppia precisione (64 bit) sono richiesti per il calcolo scientifico che richiede un'ampia gamma numerica e un'alta precisione.
31.04 TFLOPS
91.769
TFLOPS
FP32 (virgola mobile)
?
Una metrica importante per misurare le prestazioni della GPU è la capacità di calcolo in virgola mobile. I numeri a virgola mobile a precisione singola (32 bit) vengono utilizzati per attività comuni di elaborazione grafica e multimediale, mentre i numeri a virgola mobile a precisione doppia (64 bit) sono necessari per il calcolo scientifico che richiede un'ampia gamma numerica e un'elevata precisione. I numeri a virgola mobile a mezza precisione (16 bit) vengono utilizzati per applicazioni come l'apprendimento automatico, dove è accettabile una precisione inferiore.
68.32
TFLOPS
Varie
142
Conteggio SM
?
Più processori di streaming (SP), insieme ad altre risorse, formano un multiprocessore di streaming (SM), che è anche considerato come il nucleo principale di una GPU. Queste risorse aggiuntive includono componenti come i programmi di schedulazione warp, i registri e la memoria condivisa.
132
18176
Unità di ombreggiatura
?
L'unità di elaborazione più fondamentale è il processore di streaming (SP), dove vengono eseguite istruzioni e compiti specifici. Le GPU eseguono il calcolo parallelo, il che significa che più SP lavorano contemporaneamente per elaborare i compiti.
16896
128 KB (per SM)
Cache L1
256 KB (per SM)
48MB
Cache L2
50MB
300W
TDP
700W
1.3
Versione Vulkan
?
Vulkan è un'API di grafica e calcolo multipiattaforma di Khronos Group, che offre prestazioni elevate e un basso sovraccarico della CPU. Consente agli sviluppatori di controllare direttamente la GPU, riduce il sovraccarico del rendering e supporta processori multi-threading e multi-core.
N/A
3.0
Versione OpenCL
3.0
4.6
OpenGL
N/A
8.9
CUDA
9.0
12 Ultimate (12_2)
DirectX
N/A
1x 16-pin
Connettori di alimentazione
8-pin EPS
6.6
Modello Shader
N/A
192
ROPs
?
Il raster operations pipeline (ROPs) si occupa principalmente di gestire i calcoli di illuminazione e riflessione nei giochi, così come gestire effetti come l'anti-aliasing (AA), l'alta risoluzione, il fumo e il fuoco. Più esigenti sono gli effetti di anti-aliasing e illuminazione in un gioco, più alte sono le prestazioni richieste per i ROPs.
24
700W
PSU suggerito
1100W
Classifiche
FP32 (virgola mobile)
/ TFLOPS
L40G
91.769
+34%
H100 SXM5 96 GB
68.32