NVIDIA L40G vs NVIDIA H100 SXM5 96 GB

Resultado de comparação de GPU

Abaixo estão os resultados de uma comparação de placas de vídeo NVIDIA L40G e NVIDIA H100 SXM5 96 GB com base nas principais características de desempenho, bem como consumo de energia e muito mais.

Vantagens

  • Mais alto Relógio Boost: 2475MHz (2475MHz vs 1837MHz)
  • Mais Unidades de Sombreamento: 18176 (18176 vs 16896)
  • Mais recente Data de lançamento: October 2022 (October 2022 vs March 2022)
  • Maior Tamanho da Memória: 96GB (24GB vs 96GB)
  • Mais alto Largura de Banda: 3350 GB/s (864.0 GB/s vs 3350 GB/s)

Básico

NVIDIA
Nome do rótulo
NVIDIA
October 2022
Data de lançamento
March 2022
Professional
Plataforma
Professional
L40G
Nome do modelo
H100 SXM5 96 GB
Tesla Ada
Geração
Tesla Hopper
1005MHz
Relógio Base
1665MHz
2475MHz
Relógio Boost
1837MHz
PCIe 4.0 x16
Interface de ônibus
PCIe 5.0 x16
76,300 million
Transistores
80,000 million
142
Núcleos RT
-
568
Núcleos Tensor
?
Os Tensor Cores são unidades de processamento especializadas projetadas especificamente para aprendizado profundo, oferecendo maior desempenho de treinamento e inferência em comparação ao treinamento FP32.
528
568
TMUs
?
As Unidades de Mapeamento de Textura (TMUs) servem como componentes da GPU, capazes de girar, dimensionar e distorcer imagens binárias.
528
TSMC
Fundição
TSMC
4 nm
Tamanho do Processo
4 nm
Ada Lovelace
Arquitetura
Hopper

Especificações de memória

24GB
Tamanho da Memória
96GB
GDDR6
Tipo de Memória
HBM3
384bit
Barramento de Memória
?
A largura do barramento de memória se refere ao número de bits de dados que a memória de vídeo pode transferir em um ciclo de clock. Quanto maior a largura do barramento, maior a quantidade de dados que pode ser transmitida instantaneamente.
5120bit
2250MHz
Relógio de Memória
1313MHz
864.0 GB/s
Largura de Banda
?
A largura de banda da memória se refere à taxa de transferência de dados entre o chip gráfico e a memória de vídeo. É medida em bytes por segundo.
3350 GB/s

Desempenho Teórico

475.2 GPixel/s
Taxa de Pixel
?
A taxa de preenchimento de pixels refere-se ao número de pixels que uma unidade de processamento gráfico (GPU) pode renderizar por segundo, medida em MPixels/s ou GPixels/s.
44.09 GPixel/s
1406 GTexel/s
Taxa de Textura
?
A taxa de preenchimento de textura se refere ao número de elementos do mapa de textura (texels) que uma GPU pode mapear para pixels em um único segundo.
969.9 GTexel/s
89.97 TFLOPS
FP16 (metade)
?
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de meia precisão (16 bits) são usados em aplicações como aprendizado de máquina.
248.3 TFLOPS
1406 GFLOPS
FP64 (duplo)
?
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de precisão dupla (64 bits) são necessários para computação científica.
31.04 TFLOPS
91.769 TFLOPS
FP32 (flutuante)
?
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de precisão simples (32 bits) são usados para tarefas comuns de processamento multimídia e gráfico, enquanto números de ponto flutuante de precisão dupla (64 bits) são necessários para computação científica que exige uma ampla faixa numérica e alta precisão. Números de ponto flutuante de meia precisão (16 bits) são usados para aplicações como aprendizado de máquina, onde uma precisão menor é aceitável.
68.32 TFLOPS

Diversos

142
Contagem de SM
?
Vários Processadores de Streaming (SPs), juntamente com outros recursos, formam um Multiprocessador de Streaming (SM), que também é referido como um núcleo principal da GPU.
132
18176
Unidades de Sombreamento
?
A unidade de processamento mais fundamental é o Processador de Streaming (SP), onde instruções e tarefas específicas são executadas. GPUs realizam computação paralela.
16896
128 KB (per SM)
Cache L1
256 KB (per SM)
48MB
Cache L2
50MB
300W
TDP
700W
1.3
Versão Vulkan
?
Vulkan é uma API gráfica e de computação multiplataforma do Khronos Group, que oferece alto desempenho e baixa sobrecarga de CPU. Ele permite que os desenvolvedores controlem a GPU diretamente, reduz a sobrecarga de renderização e oferece suporte a processadores multi-threading e multi-core.
N/A
3.0
Versão OpenCL
3.0
4.6
OpenGL
N/A
8.9
CUDA
9.0
12 Ultimate (12_2)
DirectX
N/A
1x 16-pin
Conectores de Energia
8-pin EPS
6.6
Modelo de Shader
N/A
192
ROPs
?
O Raster Operations Pipeline (ROPs) é responsável por lidar com cálculos de iluminação e reflexão em jogos, além de gerenciar efeitos como anti-aliasing (AA), alta resolução, fumaça e fogo.
24
700W
PSU Sugerido
1100W

Classificações

FP32 (flutuante) / TFLOPS
L40G
91.769 +34%
H100 SXM5 96 GB
68.32