NVIDIA H100 SXM5

NVIDIA H100 SXM5

Informazioni sulla GPU

La GPU NVIDIA H100 SXM5 è una potente unità di elaborazione grafica, progettata specificamente per un uso professionale. Con una velocità di clock base di 1590MHz e una velocità di clock boost di 1980MHz, questa GPU offre prestazioni impressionanti per carichi di lavoro impegnativi. Gli 80GB di memoria HBM3 e un clock di memoria di 1313MHz garantiscono che l'H100 SXM5 possa gestire facilmente grandi set di dati e complesse calcolazioni. Una delle caratteristiche più impressionanti dell'H100 SXM5 sono le sue 16896 unità di shading, che consentono un'elaborazione altamente parallela e la gestione efficiente di grafica complessa e carichi di lavoro di calcolo. Inoltre, con 50MB di cache L2, questa GPU è in grado di gestire grandi quantità di dati con bassa latenza, migliorando ulteriormente le sue prestazioni complessive. Per quanto riguarda il consumo di energia, l'H100 SXM5 ha un TDP di 700W, che è nella fascia più alta, ma ciò è da aspettarsi considerando le sue elevate capacità di prestazioni. Con una prestazione teorica di 66,91 TFLOPS, questa GPU è ben adatta per applicazioni professionali come l'IA, l'apprendimento profondo, le simulazioni scientifiche e il calcolo ad alte prestazioni. In generale, la GPU NVIDIA H100 SXM5 è una soluzione di alto livello per professionisti e organizzazioni che necessitano di prestazioni grafiche e di calcolo all'avanguardia. Le sue specifiche impressionanti e le sue capacità di prestazioni la rendono una scelta eccellente per coloro che richiedono il massimo in termini di potenza di elaborazione per i loro carichi di lavoro.

Di base

Nome dell'etichetta
NVIDIA
Piattaforma
Professional
Data di rilascio
March 2022
Nome del modello
H100 SXM5
Generazione
Tesla Hopper
Clock base
1590MHz
Boost Clock
1980MHz
Interfaccia bus
PCIe 5.0 x16
Transistor
80,000 million
Core Tensor
?
I Tensor Cores sono unità di elaborazione specializzate progettate specificamente per l'apprendimento profondo. Consentono calcoli rapidi in aree come la visione artificiale, l'elaborazione del linguaggio naturale, il riconoscimento vocale, la conversione da testo a voce e le raccomandazioni personalizzate.
528
TMUs
?
Le unità di mappatura texture (TMUs) servono come componenti della GPU, in grado di ruotare, scalare, distorcere immagini binarie e poi posizionarle come texture su qualsiasi piano di un dato modello 3D. Questo processo è chiamato mappatura texture.
528
Fonderia
TSMC
Dimensione del processo
4 nm
Architettura
Hopper

Specifiche della memoria

Dimensione memoria
80GB
Tipo di memoria
HBM3
Bus memoria
?
La larghezza del bus di memoria si riferisce al numero di bit di dati che la memoria video può trasferire in un singolo ciclo di clock. Maggiore è la larghezza del bus, maggiore è la quantità di dati che può essere trasmessa istantaneamente. La larghezza del bus di memoria è un parametro cruciale della memoria video. La larghezza di banda della memoria si calcola così: Larghezza di banda della memoria = Frequenza della memoria x Larghezza del bus di memoria / 8.
5120bit
Clock memoria
1313MHz
Larghezza di banda
?
La larghezza di banda della memoria si riferisce alla velocità di trasferimento dati tra il chip grafico e la memoria video. Si misura in byte al secondo e la formula per calcolarla è: larghezza di banda della memoria = frequenza di lavoro × larghezza del bus di memoria / 8 bit.
3350 GB/s

Prestazioni teoriche

Tasso di pixel
?
Il tasso di riempimento dei pixel si riferisce al numero di pixel che una unità di elaborazione grafica (GPU) può renderizzare al secondo, misurato in MPixel/s o GPixel/s. È la metrica più comunemente usata per valutare le prestazioni di elaborazione dei pixel di una scheda grafica.
47.52 GPixel/s
Tasso di texture
?
Il tasso di riempimento della texture si riferisce al numero di elementi di mappa texture (texel) che una GPU può mappare su pixel in un secondo.
1045 GTexel/s
FP16 (metà)
?
Una metrica importante per misurare le prestazioni della GPU è la capacità di calcolo in virgola mobile. I numeri in virgola mobile a metà precisione (16 bit) vengono utilizzati per applicazioni come l'apprendimento automatico, dove è accettabile una precisione inferiore.
267.6 TFLOPS
FP64 (doppio)
?
Una metrica importante per misurare le prestazioni della GPU è la capacità di calcolo in virgola mobile. I numeri in virgola mobile a doppia precisione (64 bit) sono richiesti per il calcolo scientifico che richiede un'ampia gamma numerica e un'alta precisione.
33.45 TFLOPS
FP32 (virgola mobile)
?
Una metrica importante per misurare le prestazioni della GPU è la capacità di calcolo in virgola mobile. I numeri a virgola mobile a precisione singola (32 bit) vengono utilizzati per attività comuni di elaborazione grafica e multimediale, mentre i numeri a virgola mobile a precisione doppia (64 bit) sono necessari per il calcolo scientifico che richiede un'ampia gamma numerica e un'elevata precisione. I numeri a virgola mobile a mezza precisione (16 bit) vengono utilizzati per applicazioni come l'apprendimento automatico, dove è accettabile una precisione inferiore.
68.248 TFLOPS

Varie

Conteggio SM
?
Più processori di streaming (SP), insieme ad altre risorse, formano un multiprocessore di streaming (SM), che è anche considerato come il nucleo principale di una GPU. Queste risorse aggiuntive includono componenti come i programmi di schedulazione warp, i registri e la memoria condivisa.
132
Unità di ombreggiatura
?
L'unità di elaborazione più fondamentale è il processore di streaming (SP), dove vengono eseguite istruzioni e compiti specifici. Le GPU eseguono il calcolo parallelo, il che significa che più SP lavorano contemporaneamente per elaborare i compiti.
16896
Cache L1
256 KB (per SM)
Cache L2
50MB
TDP
700W
Versione Vulkan
?
Vulkan è un'API di grafica e calcolo multipiattaforma di Khronos Group, che offre prestazioni elevate e un basso sovraccarico della CPU. Consente agli sviluppatori di controllare direttamente la GPU, riduce il sovraccarico del rendering e supporta processori multi-threading e multi-core.
N/A
Versione OpenCL
3.0
OpenGL
N/A
DirectX
N/A
CUDA
9.0
Connettori di alimentazione
8-pin EPS
Modello Shader
N/A
ROPs
?
Il raster operations pipeline (ROPs) si occupa principalmente di gestire i calcoli di illuminazione e riflessione nei giochi, così come gestire effetti come l'anti-aliasing (AA), l'alta risoluzione, il fumo e il fuoco. Più esigenti sono gli effetti di anti-aliasing e illuminazione in un gioco, più alte sono le prestazioni richieste per i ROPs.
24
PSU suggerito
1100W

Classifiche

FP32 (virgola mobile)
Punto
68.248 TFLOPS

Rispetto ad altre GPU

FP32 (virgola mobile) / TFLOPS
125.052 +83.2%
89.778 +31.5%
68.248
60.838 -10.9%
50.45 -26.1%