NVIDIA H100 PCIe 96 GB

NVIDIA H100 PCIe 96 GB

Acerca del GPU

La GPU NVIDIA H100 PCIe de 96 GB es una unidad de procesamiento gráfico de grado profesional diseñada para computación de alto rendimiento y aplicaciones de datos intensivos. Con una velocidad de reloj base de 1665MHz y una velocidad de reloj de impulso de 1837MHz, esta GPU ofrece una potencia de procesamiento excepcional para cargas de trabajo exigentes. Una de las características destacadas de la GPU NVIDIA H100 es su impresionante memoria de 96GB de HBM3, lo que le permite manejar grandes conjuntos de datos y simulaciones complejas con facilidad. La alta velocidad de reloj de memoria de 1313MHz mejora aún más la capacidad de la GPU para acceder y procesar rápidamente grandes cantidades de datos. Con 16896 unidades de sombreado y una caché L2 de 50MB, la GPU H100 es capaz de manejar cargas de trabajo gráficas y de cálculo complejas con precisión y eficiencia. El impresionante rendimiento teórico de 62,08 TFLOPS garantiza que esta GPU pueda manejar incluso las tareas más exigentes con facilidad. El TDP de 700W refleja los altos requisitos de energía de la H100, haciéndola adecuada para estaciones de trabajo y servidores con sistemas robustos de enfriamiento y suministro de energía. Sin embargo, este alto requisito de energía está justificado por el sobresaliente rendimiento y capacidades de esta GPU. En general, la GPU NVIDIA H100 PCIe de 96 GB es una tarjeta gráfica potente que es adecuada para profesionales e investigadores que trabajan con simulaciones a gran escala, aprendizaje profundo y otras cargas de trabajo intensivas en datos. Su combinación de alta capacidad de memoria, potencia de procesamiento y arquitectura eficiente la convierten en un activo valioso para aquellos que requieren un rendimiento de primera clase para su trabajo.

Básico

Nombre de Etiqueta
NVIDIA
Plataforma
Professional
Fecha de Lanzamiento
March 2022
Nombre del modelo
H100 PCIe 96 GB
Generación
Hopper
Reloj base
1665MHz
Reloj de impulso
1837MHz
Interfaz de bus
PCIe 5.0 x16

Especificaciones de Memoria

Tamaño de memoria
96GB
Tipo de memoria
HBM3
Bus de memoria
?
La anchura del bus de memoria se refiere al número de bits de datos que la memoria de video puede transferir en un solo ciclo de reloj. Cuanto mayor sea la anchura del bus, mayor será la cantidad de datos que se pueden transmitir instantáneamente, lo que lo convierte en uno de los parámetros cruciales de la memoria de video. El ancho de banda de memoria se calcula como: Ancho de banda de memoria = Frecuencia de memoria x Anchura de bus de memoria / 8. Por lo tanto, cuando las frecuencias de memoria son similares, la anchura del bus de memoria determinará el tamaño del ancho de banda de memoria.
5120bit
Reloj de memoria
1313MHz
Ancho de banda
?
La "ancho de banda de memoria" se refiere a la tasa de transferencia de datos entre el chip gráfico y la memoria de video. Se mide en bytes por segundo, y la fórmula para calcularlo es: ancho de banda de memoria = frecuencia de trabajo × ancho de bus de memoria / 8 bits.
1681 GB/s

Rendimiento teórico

Tasa de píxeles
?
La tasa de llenado de píxeles se refiere al número de píxeles que una unidad de procesamiento gráfico (GPU) puede renderizar por segundo, medida en MPíxeles/s (millones de píxeles por segundo) o GPíxeles/s (miles de millones de píxeles por segundo). Es la métrica más comúnmente utilizada para evaluar el rendimiento de procesamiento de píxeles de una tarjeta gráfica.
44.09 GPixel/s
Tasa de texturas
?
La tasa de llenado de texturas se refiere al número de elementos del mapa de textura (texels) que una GPU puede asignar a píxeles en un solo segundo.
969.9 GTexel/s
FP16 (mitad)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
248.3 TFLOPS
FP64 (doble)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
31.04 TFLOPS
FP32 (flotante)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
63.322 TFLOPS

Misceláneos

Cuenta de SM
?
Múltiples Procesadores de Transmisión (SP), junto con otros recursos, forman un Multiprocesador de Transmisión (SM), que también se conoce como el núcleo principal de una GPU. Estos recursos adicionales incluyen componentes como planificadores de bloques, registros y memoria compartida. El SM puede considerarse como el corazón de la GPU, similar a un núcleo de CPU, donde los registros y la memoria compartida son recursos escasos dentro del SM.
132
Unidades de sombreado
?
La unidad de procesamiento más fundamental es el Procesador de Secuencias (SP), donde se ejecutan instrucciones y tareas específicas. Las GPU realizan cómputo paralelo, lo que significa que varios SP trabajan simultáneamente para procesar tareas.
16896
Caché L1
256 KB (per SM)
Caché L2
50MB
TDP
700W
Vulkan Versión
?
Vulkan es una API de gráficos y computación multiplataforma de Khronos Group, ofrece alto rendimiento y bajo consumo de CPU. Permite a los desarrolladores controlar la GPU directamente, reduce el overhead de renderización y soporta multi-threading y procesadores multi-núcleo.
N/A
OpenCL Versión
3.0

Clasificaciones

FP32 (flotante)
Puntaje
63.322 TFLOPS

Comparado con Otras GPU

FP32 (flotante) / TFLOPS
91.769 +44.9%
80.928 +27.8%
52.326 -17.4%
46.913 -25.9%