NVIDIA H100 PCIe 80 GB

NVIDIA H100 PCIe 80 GB

Acerca del GPU

La GPU NVIDIA H100 PCIe 80GB es una potencia en unidad de procesamiento gráfico que está diseñada para uso profesional. Con una velocidad base de reloj de 1095MHz y una velocidad de reloj de impulso de 1755MHz, esta GPU ofrece un rendimiento ultrarrápido para cargas de trabajo exigentes. Una de las características destacadas del H100 es su enorme memoria de 80GB de HBM2e, que permite un ancho de banda increíblemente alto y un acceso rápido a los datos. Esto se ve reforzado por una velocidad de reloj de memoria de 1593MHz, asegurando que los datos puedan ser procesados rápidamente y de manera eficiente. Con 14592 unidades de sombreado impresionantes y 50MB de caché L2, el H100 es capaz de manejar tareas de renderizado y cálculo complejas con facilidad. Además, su TDP de 350W demuestra sus altos requisitos de energía, pero este es un compromiso necesario por el nivel de rendimiento que ofrece. En cuanto a la potencia computacional pura, el H100 no decepciona, con un rendimiento teórico de 51.22 TFLOPS. Esto lo hace adecuado para tareas como el aprendizaje profundo, simulaciones científicas y computación de alto rendimiento. En general, la GPU NVIDIA H100 PCIe 80GB es una solución de primera línea para profesionales que requieren un rendimiento intransigente para su trabajo. Si bien puede ser excesivo para el consumidor promedio, para aquellos que necesitan el mejor rendimiento posible, el H100 seguramente impresionará.

Básico

Nombre de Etiqueta
NVIDIA
Plataforma
Professional
Fecha de Lanzamiento
March 2022
Nombre del modelo
H100 PCIe 80 GB
Generación
Hopper
Reloj base
1095MHz
Reloj de impulso
1755MHz
Interfaz de bus
PCIe 5.0 x16
Transistores
80,000 million
Núcleos tensor
?
Los Tensor Cores son unidades de procesamiento especializadas diseñadas específicamente para el aprendizaje profundo, proporcionando un rendimiento de entrenamiento e inferencia más alto en comparación con el entrenamiento FP32. Permiten cálculos rápidos en áreas como la visión por computadora, el procesamiento del lenguaje natural, el reconocimiento de voz, la conversión de texto a voz y las recomendaciones personalizadas. Las dos aplicaciones más destacadas de los Tensor Cores son DLSS (Deep Learning Super Sampling) y AI Denoiser para la reducción de ruido.
456
TMUs
?
Las unidades de mapeo de texturas (TMUs) funcionan como componentes de la GPU, capaces de rotar, escalar y distorsionar imágenes binarias, para luego colocarlas como texturas sobre cualquier plano de un modelo 3D dado. Este proceso se llama mapeo de texturas.
456
Fundición
TSMC
Tamaño proceso
4 nm
Arquitectura
Hopper

Especificaciones de Memoria

Tamaño de memoria
80GB
Tipo de memoria
HBM2e
Bus de memoria
?
La anchura del bus de memoria se refiere al número de bits de datos que la memoria de video puede transferir en un solo ciclo de reloj. Cuanto mayor sea la anchura del bus, mayor será la cantidad de datos que se pueden transmitir instantáneamente, lo que lo convierte en uno de los parámetros cruciales de la memoria de video. El ancho de banda de memoria se calcula como: Ancho de banda de memoria = Frecuencia de memoria x Anchura de bus de memoria / 8. Por lo tanto, cuando las frecuencias de memoria son similares, la anchura del bus de memoria determinará el tamaño del ancho de banda de memoria.
5120bit
Reloj de memoria
1593MHz
Ancho de banda
?
La "ancho de banda de memoria" se refiere a la tasa de transferencia de datos entre el chip gráfico y la memoria de video. Se mide en bytes por segundo, y la fórmula para calcularlo es: ancho de banda de memoria = frecuencia de trabajo × ancho de bus de memoria / 8 bits.
2039 GB/s

Rendimiento teórico

Tasa de píxeles
?
La tasa de llenado de píxeles se refiere al número de píxeles que una unidad de procesamiento gráfico (GPU) puede renderizar por segundo, medida en MPíxeles/s (millones de píxeles por segundo) o GPíxeles/s (miles de millones de píxeles por segundo). Es la métrica más comúnmente utilizada para evaluar el rendimiento de procesamiento de píxeles de una tarjeta gráfica.
42.12 GPixel/s
Tasa de texturas
?
La tasa de llenado de texturas se refiere al número de elementos del mapa de textura (texels) que una GPU puede asignar a píxeles en un solo segundo.
800.3 GTexel/s
FP16 (mitad)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
1513 TFLOPS
FP64 (doble)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
25.61 TFLOPS
FP32 (flotante)
?
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
50.196 TFLOPS

Misceláneos

Cuenta de SM
?
Múltiples Procesadores de Transmisión (SP), junto con otros recursos, forman un Multiprocesador de Transmisión (SM), que también se conoce como el núcleo principal de una GPU. Estos recursos adicionales incluyen componentes como planificadores de bloques, registros y memoria compartida. El SM puede considerarse como el corazón de la GPU, similar a un núcleo de CPU, donde los registros y la memoria compartida son recursos escasos dentro del SM.
114
Unidades de sombreado
?
La unidad de procesamiento más fundamental es el Procesador de Secuencias (SP), donde se ejecutan instrucciones y tareas específicas. Las GPU realizan cómputo paralelo, lo que significa que varios SP trabajan simultáneamente para procesar tareas.
14592
Caché L1
256 KB (per SM)
Caché L2
50MB
TDP
350W
Vulkan Versión
?
Vulkan es una API de gráficos y computación multiplataforma de Khronos Group, ofrece alto rendimiento y bajo consumo de CPU. Permite a los desarrolladores controlar la GPU directamente, reduce el overhead de renderización y soporta multi-threading y procesadores multi-núcleo.
N/A
OpenCL Versión
3.0
OpenGL
N/A
DirectX
N/A
CUDA
9.0
Conectores de alimentación
1x 16-pin
Modelo de sombreado
N/A
ROPs
?
La tubería de operaciones raster (ROPs) es principalmente responsable de manejar los cálculos de iluminación y reflexión en los juegos, así como de administrar efectos como el anti-aliasing (AA), alta resolución, humo y fuego. Cuanto más exigentes sean el anti-aliasing y los efectos de iluminación en un juego, mayores serán los requisitos de rendimiento para los ROPs; de lo contrario, puede resultar en una caída brusca en la velocidad de fotogramas.
24
PSU sugerida
750W

Clasificaciones

FP32 (flotante)
Puntaje
50.196 TFLOPS

Comparado con Otras GPU

FP32 (flotante) / TFLOPS
68.248 +36%
60.486 +20.5%