AMD Instinct MI450X

AMD Instinct MI450X
Análisis de la tarjeta gráfica AMD Instinct MI450X

AMD Instinct MI450X: acelerador para servidores con 288 GB de HBM4 para los racks Helios

El 12 de noviembre de 2026, AMD presentó la Instinct MI450X, una GPU para servidores de la serie MI400 destinada al entrenamiento de redes neuronales y a la ejecución de modelos ya entrenados. El acelerador tiene formato de módulo con refrigeración líquida directa. El rack AMD Helios admite 72 de estas GPU.

La MI450X cuenta con ocho pilas de HBM4, con una capacidad total de 288 GB. La MI455X, de gama superior, tiene doce pilas y 432 GB. Ambos modelos están basados en la arquitectura CDNA 5. AMD indica para ellos el mismo rendimiento máximo de cálculo y un ancho de banda de memoria de hasta 23,3 TB/s. Por ahora se sabe menos sobre la velocidad de la propia MI450X en DeepSeek-R1: el resultado publicado con el anuncio corresponde a la MI455X. La diferencia de capacidad de memoria ya puede evaluarse tomando como ejemplo los pesos y la caché del modelo.

¿Cabe DeepSeek-R1 en una sola MI450X?

El modelo principal DeepSeek-R1 contiene unos 671.000 millones de parámetros, sin el módulo adicional de predicción de varios tokens (MTP). Durante el procesamiento de un token se utilizan alrededor de 37.000 millones de parámetros. Para el token siguiente, el modelo puede elegir otros expertos, por lo que, con todos los datos cargados en la memoria de la GPU, se necesitan los pesos de todos los expertos.

Con un empaquetado ideal de cuatro bits por parámetro, solo los pesos ocuparían unos 335,5 GB, o 312,5 GiB. Es una estimación mínima que no incluye los datos auxiliares. Incluso si se interpretan los 288 GB indicados en las especificaciones como 288 GiB, los pesos seguirían necesitando más de una MI450X. La capacidad nominal de la MI455X basta para los pesos por sí solos bajo ambas interpretaciones de las unidades. Para ejecutar el modelo también se necesitan búferes de trabajo y memoria para el contexto.

El formato de almacenamiento influye de forma notable en el cálculo. En MXFP4, por cada 32 valores de cuatro bits corresponde un byte de escala compartida. Si se empaquetan los 671.000 millones de parámetros en este formato, el resultado es de unos 356,5 GB, o 332 GiB. El tamaño real depende, entre otros factores, de qué capas conserve con una precisión mayor cada implementación concreta.

El contexto también ocupa memoria. Por ejemplo, en DeepSeek-R1, con una caché MLA compacta en BF16, una solicitud de 131 072 tokens requiere unos 9,2 GB de datos de caché. Este cálculo corresponde a 61 capas y no incluye la sobrecarga del programa. Permite estimar el orden de magnitud del consumo en un diálogo largo, pero para determinar el número de solicitudes simultáneas hace falta medirlo en un servidor en funcionamiento.

Cuándo bastan 288 GB

  • En un modelo con 70.000 millones de parámetros, los pesos en BF16 ocupan unos 140 GB. En una sola MI450X queda espacio para la caché y los búferes de trabajo. Si es suficiente para la longitud de contexto necesaria, las demás GPU pueden atender copias independientes del modelo.
  • Con un gran número de diálogos largos, el servidor puede agotar la memoria destinada a la caché. En ese caso, la HBM4 adicional de la MI455X permite mantener más solicitudes en proceso simultáneamente.
  • Cuando el modelo con su caché cabe en una sola GPU, es más sencillo desplegarlo: esa copia no necesita intercambiar datos entre aceleradores. La velocidad máxima bajo carga es otra cuestión. Distribuir los cálculos entre varias GPU puede ser ventajoso incluso cuando la memoria de un solo acelerador es suficiente.

Qué muestran las pruebas de DeepSeek-R1

En el escenario MLPerf Inference Offline, el sistema recibe todas las solicitudes a la vez. La prueba mide la velocidad total de generación de tokens de salida. Para la MI455X, el laboratorio de AMD publicó el resultado ya recalculado para una sola GPU. En los sistemas NVIDIA, el promedio de la última columna se obtiene dividiendo el resultado del sistema entre el número de aceleradores.

Sistema Fuente del resultado Número de GPU Offline, tokens/s por sistema Offline, tokens/s por GPU
AMD Helios con Instinct MI450X No hay datos a 18 de noviembre de 2026 - - -
AMD Helios con Instinct MI455X Prueba interna de AMD No indicado - 21 333
NVIDIA Vera Rubin NVL72 MLPerf v6.1 Closed, Preview 72 1 183 327 16 435
Nebius, NVIDIA GB300 NVL72 MLPerf v6.1 Closed 72 689 961 9 583
Nebius, NVIDIA HGX B300 MLPerf v6.1 Closed 8 69 655 8 707

AMD comparó sus propios 21 333 tokens/s de la MI455X con el resultado de la Vera Rubin NVL72 en la categoría Preview. La diferencia entre los valores publicados es de alrededor del 30 %. La medición de AMD no fue verificada por MLCommons. El anuncio tampoco indica cuántas GPU se utilizaron ni el formato numérico de los cálculos. Con estos datos no se puede determinar cuál sería la ventaja en condiciones idénticas.

La Vera Rubin NVL72 también tiene resultados con restricciones de latencia. En MLPerf Server, el rack con 72 GPU alcanzó 1 175 890 tokens/s; en Interactive, 652 750 tokens/s. En Interactive los requisitos son más estrictos: hasta 1,5 segundos para el primer token y hasta 15 ms para cada token siguiente. Estos son los umbrales de la prueba. El anuncio de AMD no incluye resultados comparables de Server e Interactive para la MI450X y la MI455X.

Cómo elegir entre la MI450X y la MI455X

La ventaja práctica de los 432 GB se hará evidente si la memoria adicional permite alojar una copia del modelo en un número menor de GPU o atender más solicitudes con la latencia requerida. El coste por millón de tokens de salida debe compararse para toda la configuración, con el mismo modelo y la misma carga. AMD no indicó los precios de Helios en el anuncio, por lo que todavía no es posible determinar qué configuración resulta más rentable a partir de los resultados publicados.

Comparación de GPU

Comparar Instinct MI450X con otros GPUs

Seleccione GPU de la lista desplegable.

Básico

Nombre de Etiqueta
AMD
Plataforma
Professional
Fecha de Lanzamiento
November 2026
Accelerated Compute Dies (XCD)
8
Cooling
Direct Liquid Cooling
Form Factor
EAM
GPU Lithography
TSMC 2nm / 3nm FinFET
I/O Dies (IOD)
2
Nombre del modelo
AMD Instinct MI450X
Generación
Instinct MI400 Series
Reloj de impulso
2400 MHz
Transistores
320 billion
Unidades de cálculo
256
Fundición
TSMC
Tamaño proceso
2nm / 3nm FinFET
Arquitectura
CDNA 5

Especificaciones de Memoria

HBM Memory Stacks
8
Memory ECC
Yes
Memory Partitions
4
Tamaño de memoria
288 GB
Tipo de memoria
HBM4
Ancho de banda
La "ancho de banda de memoria" se refiere a la tasa de transferencia de datos entre el chip gráfico y la memoria de video. Se mide en bytes por segundo, y la fórmula para calcularlo es: ancho de banda de memoria = frecuencia de trabajo × ancho de bus de memoria / 8 bits.
23.3 TB/s

Pantalla y multimedia

AV1 Encode/Decode
AV1 decode (4 shared engines)
H.264 Hardware Encode/Decode
H.264 decode (4 shared engines)
H.265 HEVC Hardware Encode/Decode
H.265 decode (4 shared engines)
JPEG/MJPEG Codec Cores
40
Video Decoder Engines
4 shared engines (H.264, H.265, VP9, AV1)

Rendimiento teórico

FP32 Matrix
315 TFLOPS
FP32 Vector
315 TFLOPS
FP16 (mitad)
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
315 TFLOPS
FP64 (doble)
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
5 TFLOPS
FP32 (flotante)
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
315 TFLOPS

Funciones de IA

AI Software Frameworks Supported by GPU
PyTorch, TensorFlow, JAX, ONNX Runtime, SGLang, Triton, Kokkos, RAJA
BF16 Matrix
5033 TFLOPS
BF16 Matrix Sparse
10066 TFLOPS
FP16 Matrix
5033 TFLOPS
FP16 Matrix Sparse
10066 TFLOPS
FP8 Matrix
20133 TFLOPS
INT8 Matrix
5033 TOPS
INT8 Matrix Sparse
10066 TOPS
MXFP4
40265 TFLOPS
MXFP6
20133 TFLOPS
MXFP8
20133 TFLOPS

Interconexión y escalabilidad

CPU-to-GPU Interconnect
256 GB/s
GPU Interconnect
UALink / UALoE
Scale-out Bandwidth
600 GB/s
Scale-up Bandwidth
3.6 TB/s

Misceláneos

Virtualization
SR-IOV
Caché L2
192 MB

Clasificaciones

FP32 (flotante)
Puntaje
315 TFLOPS

Comparado con Otras GPU

FP32 (flotante) / TFLOPS
115.15 -63.4%
91.375 -71%
80.086 -74.6%
66.228 -79%