NVIDIA H100 SXM5

NVIDIA H100 SXM5

Acerca del GPU

La GPU NVIDIA H100 SXM5 es una potencia en unidad de procesamiento gráfico, diseñada específicamente para uso profesional. Con una velocidad de reloj base de 1590MHz y una velocidad de reloj de impulso de 1980MHz, esta GPU ofrece un rendimiento impresionante para cargas de trabajo exigentes. Los 80GB de memoria HBM3 y una velocidad de memoria de 1313MHz aseguran que la H100 SXM5 pueda manejar grandes conjuntos de datos y cálculos complejos con facilidad. Una de las características más impresionantes de la H100 SXM5 es sus 16896 unidades de sombreado, lo que permite un procesamiento altamente paralelo y un manejo eficiente de cargas de trabajo gráficas y de cálculo complejas. Además, con 50 MB de caché L2, esta GPU es capaz de manejar grandes cantidades de datos con baja latencia, mejorando aún más su rendimiento general. En cuanto al consumo de energía, la H100 SXM5 tiene un TDP de 700W, que está en el extremo más alto, pero se espera considerando sus altas capacidades de rendimiento. Con un rendimiento teórico de 66.91 TFLOPS, esta GPU es adecuada para aplicaciones profesionales como IA, aprendizaje profundo, simulaciones científicas y computación de alto rendimiento. En general, la GPU NVIDIA H100 SXM5 es una solución de vanguardia para profesionales y organizaciones que necesitan un rendimiento gráfico y de cálculo de última generación. Sus impresionantes especificaciones y capacidades de rendimiento la convierten en una excelente elección para aquellos que requieren la máxima potencia de procesamiento para sus cargas de trabajo.

Básico

Nombre de Etiqueta
NVIDIA
Plataforma
Professional
Fecha de Lanzamiento
March 2022
Nombre del modelo
H100 SXM5
Generación
Tesla Hopper
Reloj base
1590MHz
Reloj de impulso
1980MHz
Interfaz de bus
PCIe 5.0 x16

Especificaciones de Memoria

Tamaño de memoria
80GB
Tipo de memoria
HBM3
Bus de memoria
?
La anchura del bus de memoria se refiere al número de bits de datos que la memoria de video puede transferir en un solo ciclo de reloj. Cuanto mayor sea la anchura del bus, mayor será la cantidad de datos que se pueden transmitir instantáneamente, lo que lo convierte en uno de los parámetros cruciales de la memoria de video. El ancho de banda de memoria se calcula como: Ancho de banda de memoria = Frecuencia de memoria x Anchura de bus de memoria / 8. Por lo tanto, cuando las frecuencias de memoria son similares, la anchura del bus de memoria determinará el tamaño del ancho de banda de memoria.
5120bit
Reloj de memoria
1313MHz
Ancho de banda
?
La "ancho de banda de memoria" se refiere a la tasa de transferencia de datos entre el chip gráfico y la memoria de video. Se mide en bytes por segundo, y la fórmula para calcularlo es: ancho de banda de memoria = frecuencia de trabajo × ancho de bus de memoria / 8 bits.
3350 GB/s

Rendimiento teórico

Tasa de píxeles
?
La tasa de llenado de píxeles se refiere al número de píxeles que una unidad de procesamiento gráfico (GPU) puede renderizar por segundo, medida en MPíxeles/s (millones de píxeles por segundo) o GPíxeles/s (miles de millones de píxeles por segundo). Es la métrica más comúnmente utilizada para evaluar el rendimiento de procesamiento de píxeles de una tarjeta gráfica.
47.52 GPixel/s
Tasa de texturas
?
La tasa de llenado de texturas se refiere al número de elementos del mapa de textura (texels) que una GPU puede asignar a píxeles en un solo segundo.
1045 GTexel/s
FP16 (mitad)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
267.6 TFLOPS
FP64 (doble)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
33.45 TFLOPS
FP32 (flotante)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
68.248 TFLOPS

Misceláneos

Cuenta de SM
?
Múltiples Procesadores de Transmisión (SP), junto con otros recursos, forman un Multiprocesador de Transmisión (SM), que también se conoce como el núcleo principal de una GPU. Estos recursos adicionales incluyen componentes como planificadores de bloques, registros y memoria compartida. El SM puede considerarse como el corazón de la GPU, similar a un núcleo de CPU, donde los registros y la memoria compartida son recursos escasos dentro del SM.
132
Unidades de sombreado
?
La unidad de procesamiento más fundamental es el Procesador de Secuencias (SP), donde se ejecutan instrucciones y tareas específicas. Las GPU realizan cómputo paralelo, lo que significa que varios SP trabajan simultáneamente para procesar tareas.
16896
Caché L1
256 KB (per SM)
Caché L2
50MB
TDP
700W
Vulkan Versión
?
Vulkan es una API de gráficos y computación multiplataforma de Khronos Group, ofrece alto rendimiento y bajo consumo de CPU. Permite a los desarrolladores controlar la GPU directamente, reduce el overhead de renderización y soporta multi-threading y procesadores multi-núcleo.
N/A
OpenCL Versión
3.0

Clasificaciones

FP32 (flotante)
Puntaje
68.248 TFLOPS

Comparado con Otras GPU

FP32 (flotante) / TFLOPS
68.32 +0.1%
68.248
68.248 -0%
68.248 -0%