AMD Instinct MI455X
AMD Instinct MI455X: 432 GB de HBM4 y primeros resultados en DeepSeek-R1
El 23 de julio de 2026, AMD presentó la Instinct MI455X como parte de Helios, un bastidor de servidores para entrenar y ejecutar redes neuronales. La MI455X está implementada como un módulo con refrigeración líquida directa. Cada acelerador incorpora 432 GB de memoria HBM4, mientras que la capacidad total de un bastidor completo con 72 GPU alcanza aproximadamente 31 TB.
En noviembre, AMD informó de que el sistema Helios alcanzó 21 333 tokens/s en DeepSeek-R1, expresados por MI455X. El 12 de noviembre, la compañía comparó esta cifra con el resultado de NVIDIA Vera Rubin y anunció una ventaja de hasta el 30 %. Cuatro días después, Nebius publicó un nuevo resultado de Vera Rubin con el mismo modelo: más de 22 000 tokens/s de media por GPU.
En qué se diferencia la MI455X de la MI450X
Ambos aceleradores para Helios están basados en la arquitectura CDNA 5. AMD indica el mismo ancho de banda máximo de memoria: 23,3 TB/s. También coinciden las cifras máximas de cómputo, incluidos los 40,3 PFLOPS en formato MXFP4. La principal diferencia entre los modelos es la cantidad de datos que cabe en la memoria local de cada GPU.
| Acelerador | Memoria HBM4 por GPU | Número de pilas HBM4 |
|---|---|---|
| AMD Instinct MI455X | 432 GB | 12 |
| AMD Instinct MI450X | 288 GB | 8 |
Los 144 GB adicionales resultan especialmente útiles cuando los pesos del modelo superan ligeramente la memoria disponible en un solo acelerador. Si es posible colocar una copia completa en una MI455X, el servidor puede procesar solicitudes sin intercambiar resultados intermedios entre las GPU. Otra forma de aprovechar la memoria adicional es reservar más espacio para la caché de conversaciones largas.
¿Cabe DeepSeek-R1 en 432 GB?
El modelo principal DeepSeek-R1 contiene aproximadamente 671 000 millones de parámetros, sin el módulo adicional de predicción de tokens. Durante la generación de un token, el modelo utiliza unos 37 000 millones de parámetros, pero para el siguiente token puede seleccionar otros expertos. Para cargar el modelo completo se necesitan los pesos de todos los expertos.
- Con un empaquetado ideal de cuatro bits por parámetro, los pesos ocupan aproximadamente 335,5 GB (312,5 GiB). Este es el mínimo teórico sin datos auxiliares.
- En formato MXFP4, cada grupo de 32 valores tiene un byte de escala común. Si todos los parámetros se almacenan en este formato, el volumen calculado aumenta hasta 356,5 GB (332 GiB).
- Para una solicitud con un contexto de 131 072 tokens, la caché MLA compacta de DeepSeek-R1 en formato BF16 ocupa otros 9,2 GB aproximadamente. Es una estimación basada en la configuración del modelo, sin tener en cuenta los búferes de trabajo ni la sobrecarga del programa.
Según estos cálculos, los pesos de cuatro bits caben en la memoria nominal de una MI455X, pero superan la capacidad de una MI450X. El número de solicitudes largas que la MI455X podrá atender simultáneamente depende del formato real de los pesos y de la caché. AMD no reveló la configuración de su ejecución con suficiente detalle como para relacionar el resultado de 21 333 tokens/s con la colocación del modelo en una sola GPU.
DeepSeek-R1 en MI455X, MI355X y NVIDIA Vera Rubin
En el escenario MLPerf Inference Offline, el sistema recibe todas las solicitudes a la vez. La prueba mide la velocidad total de generación de todas las solicitudes. En la última columna, para los resultados públicos de MLPerf, se indica la velocidad del sistema dividida entre el número de aceleradores. En el caso de la MI455X, la cifra por GPU fue comunicada por la propia AMD.
| Sistema | Fuente del resultado Offline | Número de GPU | Tokens/s por sistema | Tokens/s por GPU |
|---|---|---|---|---|
| AMD Helios, Instinct MI455X | Laboratorio de AMD, noviembre | No indicado | - | 21 333 |
| NVIDIA Vera Rubin NVL72 | MLPerf v6.1, septiembre, Preview | 72 | 1 183 327 | 16 435 |
| Nebius, NVIDIA Vera Rubin NVL72 | MLPerf v6.1, noviembre, Available | 72 | 1 586 667 | 22 037 |
| Crusoe, AMD Instinct MI355X | MLPerf v6.1, septiembre | 512 | 2 901 950 | 5 668 |
Para su comparación, AMD tomó el resultado de Vera Rubin de septiembre. Frente a él, la cifra de la MI455X es efectivamente alrededor de un 30 % superior. En la publicación de noviembre de Nebius, la media por Rubin ya es un 3,3 % superior a la cifra de AMD. Ambas diferencias se refieren a sistemas concretos. El resultado de la MI455X se obtuvo en una prueba interna que no fue verificada por MLCommons. AMD no indicó el número de aceleradores ni la precisión de los cálculos.
Para un servicio interactivo queda otra cuestión: cuántas solicitudes puede atender el sistema con un límite de tiempo de respuesta. En el escenario Server, el bastidor de Nebius mostró en noviembre 1 752 403 tokens/s. En el caso de la MI455X, el mensaje de noviembre de AMD solo incluye el escenario Offline, por lo que estas publicaciones no permiten comparar la latencia de respuesta de ambos sistemas.
Para qué tareas se necesita la MI455X
El caso más evidente para la MI455X es el de un modelo que queda limitado por los 288 GB por GPU. La memoria adicional puede reducir el número de aceleradores necesarios para una copia del modelo o permitir que el servidor mantenga simultáneamente más conversaciones largas. Si la misma carga cabe en una MI450X, el modelo superior no ofrece una ventaja especificada en el ancho de banda de HBM4. En ese caso, la elección depende de la velocidad medida y del coste de toda la configuración para la longitud de contexto necesaria y el tiempo hasta el primer token admisible.
Comparación de GPU
Comparar Instinct MI455X con otros GPUs
Básico
Especificaciones de Memoria
Pantalla y multimedia
Rendimiento teórico
Funciones de IA
Interconexión y escalabilidad
Misceláneos
Clasificaciones
Comparado con Otras GPU
Compartir en redes sociales
O Enlázanos
<a href="https://cputronic.com/es/gpu/amd-instinct-mi455x" target="_blank">AMD Instinct MI455X</a>