NVIDIA L40G vs NVIDIA H100 SXM5 96 GB
Resultado de la comparación de GPU
A continuación se muestran los resultados de una comparación de
NVIDIA L40G
y GPU de
NVIDIA H100 SXM5 96 GB
según las características clave de rendimiento, así como el consumo de energía y mucho más.
Ventajas
- Mas alto Reloj de impulso: 2475MHz (2475MHz vs 1837MHz)
- Más Unidades de sombreado: 18176 (18176 vs 16896)
- Más nuevo Fecha de Lanzamiento: October 2022 (October 2022 vs March 2022)
- Más grande Tamaño de memoria: 96GB (24GB vs 96GB)
- Mas alto Ancho de banda: 3350 GB/s (864.0 GB/s vs 3350 GB/s)
Básico
NVIDIA
Nombre de Etiqueta
NVIDIA
October 2022
Fecha de Lanzamiento
March 2022
Professional
Plataforma
Professional
L40G
Nombre del modelo
H100 SXM5 96 GB
Tesla Ada
Generación
Tesla Hopper
1005MHz
Reloj base
1665MHz
2475MHz
Reloj de impulso
1837MHz
PCIe 4.0 x16
Interfaz de bus
PCIe 5.0 x16
76,300 million
Transistores
80,000 million
142
Núcleos RT
-
568
Núcleos tensor
?
Los Tensor Cores son unidades de procesamiento especializadas diseñadas específicamente para el aprendizaje profundo, proporcionando un rendimiento de entrenamiento e inferencia más alto en comparación con el entrenamiento FP32. Permiten cálculos rápidos en áreas como la visión por computadora, el procesamiento del lenguaje natural, el reconocimiento de voz, la conversión de texto a voz y las recomendaciones personalizadas. Las dos aplicaciones más destacadas de los Tensor Cores son DLSS (Deep Learning Super Sampling) y AI Denoiser para la reducción de ruido.
528
568
TMUs
?
Las unidades de mapeo de texturas (TMUs) funcionan como componentes de la GPU, capaces de rotar, escalar y distorsionar imágenes binarias, para luego colocarlas como texturas sobre cualquier plano de un modelo 3D dado. Este proceso se llama mapeo de texturas.
528
TSMC
Fundición
TSMC
4 nm
Tamaño proceso
4 nm
Ada Lovelace
Arquitectura
Hopper
Especificaciones de Memoria
24GB
Tamaño de memoria
96GB
GDDR6
Tipo de memoria
HBM3
384bit
Bus de memoria
?
La anchura del bus de memoria se refiere al número de bits de datos que la memoria de video puede transferir en un solo ciclo de reloj. Cuanto mayor sea la anchura del bus, mayor será la cantidad de datos que se pueden transmitir instantáneamente, lo que lo convierte en uno de los parámetros cruciales de la memoria de video. El ancho de banda de memoria se calcula como: Ancho de banda de memoria = Frecuencia de memoria x Anchura de bus de memoria / 8. Por lo tanto, cuando las frecuencias de memoria son similares, la anchura del bus de memoria determinará el tamaño del ancho de banda de memoria.
5120bit
2250MHz
Reloj de memoria
1313MHz
864.0 GB/s
Ancho de banda
?
La "ancho de banda de memoria" se refiere a la tasa de transferencia de datos entre el chip gráfico y la memoria de video. Se mide en bytes por segundo, y la fórmula para calcularlo es: ancho de banda de memoria = frecuencia de trabajo × ancho de bus de memoria / 8 bits.
3350 GB/s
Rendimiento teórico
475.2 GPixel/s
Tasa de píxeles
?
La tasa de llenado de píxeles se refiere al número de píxeles que una unidad de procesamiento gráfico (GPU) puede renderizar por segundo, medida en MPíxeles/s (millones de píxeles por segundo) o GPíxeles/s (miles de millones de píxeles por segundo). Es la métrica más comúnmente utilizada para evaluar el rendimiento de procesamiento de píxeles de una tarjeta gráfica.
44.09 GPixel/s
1406 GTexel/s
Tasa de texturas
?
La tasa de llenado de texturas se refiere al número de elementos del mapa de textura (texels) que una GPU puede asignar a píxeles en un solo segundo.
969.9 GTexel/s
89.97 TFLOPS
FP16 (mitad)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
248.3 TFLOPS
1406 GFLOPS
FP64 (doble)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
31.04 TFLOPS
91.769
TFLOPS
FP32 (flotante)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
68.32
TFLOPS
Misceláneos
142
Cuenta de SM
?
Múltiples Procesadores de Transmisión (SP), junto con otros recursos, forman un Multiprocesador de Transmisión (SM), que también se conoce como el núcleo principal de una GPU. Estos recursos adicionales incluyen componentes como planificadores de bloques, registros y memoria compartida. El SM puede considerarse como el corazón de la GPU, similar a un núcleo de CPU, donde los registros y la memoria compartida son recursos escasos dentro del SM.
132
18176
Unidades de sombreado
?
La unidad de procesamiento más fundamental es el Procesador de Secuencias (SP), donde se ejecutan instrucciones y tareas específicas. Las GPU realizan cómputo paralelo, lo que significa que varios SP trabajan simultáneamente para procesar tareas.
16896
128 KB (per SM)
Caché L1
256 KB (per SM)
48MB
Caché L2
50MB
300W
TDP
700W
1.3
Vulkan Versión
?
Vulkan es una API de gráficos y computación multiplataforma de Khronos Group, ofrece alto rendimiento y bajo consumo de CPU. Permite a los desarrolladores controlar la GPU directamente, reduce el overhead de renderización y soporta multi-threading y procesadores multi-núcleo.
N/A
3.0
OpenCL Versión
3.0
4.6
OpenGL
N/A
8.9
CUDA
9.0
12 Ultimate (12_2)
DirectX
N/A
1x 16-pin
Conectores de alimentación
8-pin EPS
6.6
Modelo de sombreado
N/A
192
ROPs
?
La tubería de operaciones raster (ROPs) es principalmente responsable de manejar los cálculos de iluminación y reflexión en los juegos, así como de administrar efectos como el anti-aliasing (AA), alta resolución, humo y fuego. Cuanto más exigentes sean el anti-aliasing y los efectos de iluminación en un juego, mayores serán los requisitos de rendimiento para los ROPs; de lo contrario, puede resultar en una caída brusca en la velocidad de fotogramas.
24
700W
PSU sugerida
1100W
Clasificaciones
FP32 (flotante)
/ TFLOPS
L40G
91.769
+34%
H100 SXM5 96 GB
68.32