AMD Instinct MI455X

AMD Instinct MI455X
Análisis de la tarjeta gráfica AMD Instinct MI455X

AMD Instinct MI455X: 432 GB de HBM4 y primeros resultados en DeepSeek-R1

El 23 de julio de 2026, AMD presentó la Instinct MI455X como parte de Helios, un bastidor de servidores para entrenar y ejecutar redes neuronales. La MI455X está implementada como un módulo con refrigeración líquida directa. Cada acelerador incorpora 432 GB de memoria HBM4, mientras que la capacidad total de un bastidor completo con 72 GPU alcanza aproximadamente 31 TB.

En noviembre, AMD informó de que el sistema Helios alcanzó 21 333 tokens/s en DeepSeek-R1, expresados por MI455X. El 12 de noviembre, la compañía comparó esta cifra con el resultado de NVIDIA Vera Rubin y anunció una ventaja de hasta el 30 %. Cuatro días después, Nebius publicó un nuevo resultado de Vera Rubin con el mismo modelo: más de 22 000 tokens/s de media por GPU.

En qué se diferencia la MI455X de la MI450X

Ambos aceleradores para Helios están basados en la arquitectura CDNA 5. AMD indica el mismo ancho de banda máximo de memoria: 23,3 TB/s. También coinciden las cifras máximas de cómputo, incluidos los 40,3 PFLOPS en formato MXFP4. La principal diferencia entre los modelos es la cantidad de datos que cabe en la memoria local de cada GPU.

Acelerador Memoria HBM4 por GPU Número de pilas HBM4
AMD Instinct MI455X 432 GB 12
AMD Instinct MI450X 288 GB 8

Los 144 GB adicionales resultan especialmente útiles cuando los pesos del modelo superan ligeramente la memoria disponible en un solo acelerador. Si es posible colocar una copia completa en una MI455X, el servidor puede procesar solicitudes sin intercambiar resultados intermedios entre las GPU. Otra forma de aprovechar la memoria adicional es reservar más espacio para la caché de conversaciones largas.

¿Cabe DeepSeek-R1 en 432 GB?

El modelo principal DeepSeek-R1 contiene aproximadamente 671 000 millones de parámetros, sin el módulo adicional de predicción de tokens. Durante la generación de un token, el modelo utiliza unos 37 000 millones de parámetros, pero para el siguiente token puede seleccionar otros expertos. Para cargar el modelo completo se necesitan los pesos de todos los expertos.

  • Con un empaquetado ideal de cuatro bits por parámetro, los pesos ocupan aproximadamente 335,5 GB (312,5 GiB). Este es el mínimo teórico sin datos auxiliares.
  • En formato MXFP4, cada grupo de 32 valores tiene un byte de escala común. Si todos los parámetros se almacenan en este formato, el volumen calculado aumenta hasta 356,5 GB (332 GiB).
  • Para una solicitud con un contexto de 131 072 tokens, la caché MLA compacta de DeepSeek-R1 en formato BF16 ocupa otros 9,2 GB aproximadamente. Es una estimación basada en la configuración del modelo, sin tener en cuenta los búferes de trabajo ni la sobrecarga del programa.

Según estos cálculos, los pesos de cuatro bits caben en la memoria nominal de una MI455X, pero superan la capacidad de una MI450X. El número de solicitudes largas que la MI455X podrá atender simultáneamente depende del formato real de los pesos y de la caché. AMD no reveló la configuración de su ejecución con suficiente detalle como para relacionar el resultado de 21 333 tokens/s con la colocación del modelo en una sola GPU.

DeepSeek-R1 en MI455X, MI355X y NVIDIA Vera Rubin

En el escenario MLPerf Inference Offline, el sistema recibe todas las solicitudes a la vez. La prueba mide la velocidad total de generación de todas las solicitudes. En la última columna, para los resultados públicos de MLPerf, se indica la velocidad del sistema dividida entre el número de aceleradores. En el caso de la MI455X, la cifra por GPU fue comunicada por la propia AMD.

Sistema Fuente del resultado Offline Número de GPU Tokens/s por sistema Tokens/s por GPU
AMD Helios, Instinct MI455X Laboratorio de AMD, noviembre No indicado - 21 333
NVIDIA Vera Rubin NVL72 MLPerf v6.1, septiembre, Preview 72 1 183 327 16 435
Nebius, NVIDIA Vera Rubin NVL72 MLPerf v6.1, noviembre, Available 72 1 586 667 22 037
Crusoe, AMD Instinct MI355X MLPerf v6.1, septiembre 512 2 901 950 5 668

Para su comparación, AMD tomó el resultado de Vera Rubin de septiembre. Frente a él, la cifra de la MI455X es efectivamente alrededor de un 30 % superior. En la publicación de noviembre de Nebius, la media por Rubin ya es un 3,3 % superior a la cifra de AMD. Ambas diferencias se refieren a sistemas concretos. El resultado de la MI455X se obtuvo en una prueba interna que no fue verificada por MLCommons. AMD no indicó el número de aceleradores ni la precisión de los cálculos.

Para un servicio interactivo queda otra cuestión: cuántas solicitudes puede atender el sistema con un límite de tiempo de respuesta. En el escenario Server, el bastidor de Nebius mostró en noviembre 1 752 403 tokens/s. En el caso de la MI455X, el mensaje de noviembre de AMD solo incluye el escenario Offline, por lo que estas publicaciones no permiten comparar la latencia de respuesta de ambos sistemas.

Para qué tareas se necesita la MI455X

El caso más evidente para la MI455X es el de un modelo que queda limitado por los 288 GB por GPU. La memoria adicional puede reducir el número de aceleradores necesarios para una copia del modelo o permitir que el servidor mantenga simultáneamente más conversaciones largas. Si la misma carga cabe en una MI450X, el modelo superior no ofrece una ventaja especificada en el ancho de banda de HBM4. En ese caso, la elección depende de la velocidad medida y del coste de toda la configuración para la longitud de contexto necesaria y el tiempo hasta el primer token admisible.

Comparación de GPU

Comparar Instinct MI455X con otros GPUs

Seleccione GPU de la lista desplegable.

Básico

Nombre de Etiqueta
AMD
Plataforma
Professional
Fecha de Lanzamiento
July 2026
Accelerated Compute Dies (XCD)
8
Cooling
Direct Liquid Cooling
Form Factor
EAM
GPU Lithography
TSMC 2nm / 3nm FinFET
I/O Dies (IOD)
2
Work Group Processors (WGP)
256
Nombre del modelo
AMD Instinct MI455X
Generación
Instinct MI400 Series
Reloj de impulso
2400 MHz
Transistores
320 billion
Unidades de cálculo
256
Fundición
TSMC
Tamaño proceso
2nm / 3nm FinFET
Arquitectura
CDNA 5

Especificaciones de Memoria

HBM Memory Stacks
12
HBM4 Interface Channels
192
Memory ECC
Yes
Memory Partitions
4
Tamaño de memoria
432 GB
Tipo de memoria
HBM4
Ancho de banda
La "ancho de banda de memoria" se refiere a la tasa de transferencia de datos entre el chip gráfico y la memoria de video. Se mide en bytes por segundo, y la fórmula para calcularlo es: ancho de banda de memoria = frecuencia de trabajo × ancho de bus de memoria / 8 bits.
23.3 TB/s

Pantalla y multimedia

AV1 Encode/Decode
AV1 decode (4 shared engines)
H.264 Hardware Encode/Decode
H.264 decode (4 shared engines)
H.265 HEVC Hardware Encode/Decode
H.265 decode (4 shared engines)
JPEG/MJPEG Codec Cores
40
Video Decoder Engines
4 shared engines (H.264, H.265, VP9, AV1)

Rendimiento teórico

FP32 Matrix
315 TFLOPS
FP32 Vector
315 TFLOPS
FP16 (mitad)
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
315 TFLOPS
FP64 (doble)
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
5 TFLOPS
FP32 (flotante)
Una métrica importante para medir el rendimiento de la GPU es la capacidad de cómputo de punto flotante. Los números de punto flotante de media precisión (16 bits) se utilizan para aplicaciones como el aprendizaje automático, donde se acepta una menor precisión. Los números de punto flotante de precisión simple (32 bits) se utilizan para tareas comunes de procesamiento multimedia y gráfico, mientras que los números de punto flotante de doble precisión (64 bits) son necesarios para la computación científica que requiere un amplio rango numérico y alta precisión.
315 TFLOPS

Funciones de IA

AI Software Frameworks Supported by GPU
PyTorch, TensorFlow, JAX, ONNX Runtime, vLLM, SGLang, Triton, Kokkos, RAJA
BF16 Matrix
5033 TFLOPS
BF16 Matrix Sparse
10066 TFLOPS
FP16 Matrix
5033 TFLOPS
FP16 Matrix Sparse
10066 TFLOPS
FP8 Matrix
20133 TFLOPS
INT8 Matrix
5033 TOPS
INT8 Matrix Sparse
10066 TOPS
MXFP4
40265 TFLOPS
MXFP6
20133 TFLOPS
MXFP8
20133 TFLOPS

Interconexión y escalabilidad

CPU-to-GPU Interconnect
256 GB/s
GPU Interconnect
UALink / UALoE
Scale-out Bandwidth
600 GB/s
Scale-up Bandwidth
3.6 TB/s

Misceláneos

Virtualization
SR-IOV
Caché L2
192 MB

Clasificaciones

FP32 (flotante)
Puntaje
315 TFLOPS

Comparado con Otras GPU

FP32 (flotante) / TFLOPS
315 +0%
91.375 -71%
80.086 -74.6%
66.228 -79%