AMD Instinct MI455X

AMD Instinct MI455X
Test de la carte graphique AMD Instinct MI455X

AMD Instinct MI455X - 432 GB de HBM4 et premiers résultats sur DeepSeek-R1

Le 23 juillet 2026, AMD a présenté l’Instinct MI455X dans le cadre de Helios, un rack serveur destiné à l’entraînement et à l’exécution de réseaux neuronaux. Le MI455X se présente sous la forme d’un module à refroidissement liquide direct. Chaque accélérateur embarque 432 GB de mémoire HBM4, tandis que la capacité totale atteint environ 31 TB dans un rack complet de 72 GPU.

En novembre, AMD a indiqué que le système Helios avait atteint 21 333 tokens/s sur DeepSeek-R1, rapportés à un MI455X. Le 12 novembre, l’entreprise a comparé ce résultat à celui de NVIDIA Vera Rubin et a annoncé un avantage pouvant atteindre 30 %. Quatre jours plus tard, Nebius a publié un nouveau résultat de Vera Rubin sur le même modèle : plus de 22 000 tokens/s en moyenne par GPU.

En quoi le MI455X se distingue du MI450X

Les deux accélérateurs destinés à Helios reposent sur l’architecture CDNA 5. AMD indique la même bande passante mémoire maximale théorique de 23,3 TB/s. Leurs performances de calcul maximales sont également identiques, avec notamment 40,3 PFLOPS au format MXFP4. La principale différence entre les deux modèles concerne la quantité de données pouvant tenir dans la mémoire locale de chaque GPU.

Accélérateur Mémoire HBM4 par GPU Nombre de piles HBM4
AMD Instinct MI455X 432 GB 12
AMD Instinct MI450X 288 GB 8

Les 144 GB supplémentaires sont particulièrement utiles lorsque les poids d’un modèle dépassent de peu la mémoire d’un seul accélérateur. Si une copie complète tient sur un MI455X, le serveur peut traiter les requêtes sans échanger de résultats intermédiaires entre les GPU. Une autre façon d’exploiter cette mémoire supplémentaire consiste à consacrer davantage d’espace au cache pour les longues conversations.

DeepSeek-R1 tient-il dans 432 GB ?

Le modèle principal DeepSeek-R1 contient environ 671 milliards de paramètres, sans le module supplémentaire de prédiction des tokens. Lors de la génération d’un token, le modèle mobilise environ 37 milliards de paramètres, mais il peut sélectionner d’autres experts pour le token suivant. Le chargement complet du modèle nécessite les poids de tous les experts.

  • Avec un empaquetage idéal à quatre bits par paramètre, les poids occupent environ 335,5 GB (312,5 GiB). Il s’agit du minimum théorique, sans données auxiliaires.
  • Au format MXFP4, chaque groupe de 32 valeurs possède un octet contenant une échelle commune. Si tous les paramètres sont stockés dans ce format, le volume calculé atteint 356,5 GB (332 GiB).
  • Pour une requête avec un contexte de 131 072 tokens, le cache MLA compact de DeepSeek-R1 au format BF16 occupe encore environ 9,2 GB. Il s’agit d’une estimation fondée sur la configuration du modèle, sans tenir compte des tampons de travail ni des surcoûts du logiciel.

Selon ces calculs, les poids sur quatre bits tiennent dans la mémoire nominale d’un MI455X, mais dépassent la capacité d’un MI450X. Le nombre de requêtes longues que le MI455X peut traiter simultanément dépend du format réel des poids et du cache. AMD n’a pas donné suffisamment de détails sur la configuration de son test pour permettre de relier le résultat de 21 333 tokens/s au placement du modèle sur un seul GPU.

DeepSeek-R1 sur MI455X, MI355X et NVIDIA Vera Rubin

Dans le scénario MLPerf Inference Offline, le système reçoit toutes les requêtes en même temps. Le test mesure le débit total de génération pour l’ensemble des requêtes. Dans la dernière colonne, les résultats publics de MLPerf indiquent le débit du système divisé par le nombre d’accélérateurs. Pour le MI455X, la valeur par GPU a été communiquée directement par AMD.

Système Source du résultat Offline Nombre de GPU Tokens/s pour le système Tokens/s par GPU
AMD Helios, Instinct MI455X Laboratoire AMD, novembre Non indiqué - 21 333
NVIDIA Vera Rubin NVL72 MLPerf v6.1, septembre, Preview 72 1 183 327 16 435
Nebius, NVIDIA Vera Rubin NVL72 MLPerf v6.1, novembre, Available 72 1 586 667 22 037
Crusoe, AMD Instinct MI355X MLPerf v6.1, septembre 512 2 901 950 5 668

Pour sa comparaison, AMD a retenu le résultat de Vera Rubin publié en septembre. Par rapport à celui-ci, le résultat du MI455X est effectivement supérieur d’environ 30 %. Dans la publication de Nebius en novembre, la moyenne par Rubin est déjà supérieure de 3,3 % au chiffre d’AMD. Ces deux écarts concernent des systèmes précis. Le résultat du MI455X provient d’un test interne qui n’a pas été vérifié par MLCommons. AMD n’a pas indiqué le nombre d’accélérateurs ni la précision des calculs.

Pour un service interactif, une autre question reste posée : combien de requêtes le système peut-il traiter avec une contrainte de temps de réponse ? Dans le scénario Server, le rack de Nebius a atteint 1 752 403 tokens/s en novembre. Pour le MI455X, le message publié par AMD en novembre ne contient que le résultat Offline ; il est donc impossible de comparer la latence de réponse des deux systèmes à partir de ces publications.

À quelles tâches le MI455X est-il destiné ?

Le cas d’usage le plus évident du MI455X est celui d’un modèle qui tient difficilement dans les 288 GB d’un GPU. La mémoire supplémentaire peut réduire le nombre d’accélérateurs nécessaires pour une copie du modèle, ou permettre au serveur de gérer simultanément davantage de longues conversations. Si la même charge tient sur un MI450X, le modèle haut de gamme ne bénéficie d’aucun avantage annoncé en matière de bande passante HBM4. Le choix dépend alors de la vitesse mesurée et du coût de la configuration complète, pour la longueur de contexte requise et le délai jusqu’au premier token acceptable.

Comparaison de GPU

Comparer Instinct MI455X avec d’autres GPUs

Veuillez sélectionner GPU dans la liste déroulante.

Basique

Nom de l'étiquette
AMD
Plate-forme
Professional
Date de lancement
July 2026
Accelerated Compute Dies (XCD)
8
Cooling
Direct Liquid Cooling
Form Factor
EAM
GPU Lithography
TSMC 2nm / 3nm FinFET
I/O Dies (IOD)
2
Work Group Processors (WGP)
256
Nom du modèle
AMD Instinct MI455X
Génération
Instinct MI400 Series
Horloge Boost
2400 MHz
Transistors
320 billion
Unités de calcul
256
Fonderie
TSMC
Taille de processus
2nm / 3nm FinFET
Architecture
CDNA 5

Spécifications de la mémoire

HBM Memory Stacks
12
HBM4 Interface Channels
192
Memory ECC
Yes
Memory Partitions
4
Taille de Mémoire
432 GB
Type de Mémoire
HBM4
Bande Passante
La bande passante mémoire fait référence au débit de transfert de données entre la puce graphique et la mémoire vidéo. Elle est mesurée en octets par seconde, et la formule pour la calculer est : bande passante mémoire = fréquence de fonctionnement × largeur du bus mémoire / 8 bits. En français: La bande passante mémoire désigne le taux de transfert de données entre la puce graphique et la mémoire vidéo. Elle est mesurée en octets par seconde et la formule pour la calculer est la suivante : bande passante mémoire = fréquence de fonctionnement × largeur du bus mémoire / 8 bits.
23.3 TB/s

Affichage et multimédia

AV1 Encode/Decode
AV1 decode (4 shared engines)
H.264 Hardware Encode/Decode
H.264 decode (4 shared engines)
H.265 HEVC Hardware Encode/Decode
H.265 decode (4 shared engines)
JPEG/MJPEG Codec Cores
40
Video Decoder Engines
4 shared engines (H.264, H.265, VP9, AV1)

Performance théorique

FP32 Matrix
315 TFLOPS
FP32 Vector
315 TFLOPS
FP16 (demi)
Une mesure importante pour évaluer les performances des GPU est la capacité de calcul en virgule flottante. Les nombres en virgule flottante à demi-précision (16 bits) sont utilisés pour des applications telles que l'apprentissage automatique, où une précision inférieure est acceptable. Les nombres en virgule flottante simple précision (32 bits) sont utilisés pour les tâches courantes de multimédia et de traitement graphique, tandis que les nombres en virgule flottante double précision (64 bits) sont requis pour le calcul scientifique qui nécessite une large plage numérique et une grande précision.
315 TFLOPS
FP64 (double précision)
Une mesure importante pour évaluer les performances des GPU est la capacité de calcul en virgule flottante. Les nombres en virgule flottante à demi-précision (16 bits) sont utilisés pour des applications telles que l'apprentissage automatique, où une précision inférieure est acceptable. Les nombres en virgule flottante simple précision (32 bits) sont utilisés pour les tâches courantes de multimédia et de traitement graphique, tandis que les nombres en virgule flottante double précision (64 bits) sont requis pour le calcul scientifique qui nécessite une large plage numérique et une grande précision.
5 TFLOPS
FP32 (flottant)
Une mesure importante pour mesurer les performances du GPU est la capacité de calcul en virgule flottante. Les nombres à virgule flottante simple précision (32 bits) sont utilisés pour les tâches courantes de traitement multimédia et graphique, tandis que les nombres à virgule flottante double précision (64 bits) sont requis pour le calcul scientifique qui exige une large plage numérique et une grande précision. Les nombres à virgule flottante demi-précision (16 bits) sont utilisés pour des applications telles que l'apprentissage automatique, où une précision inférieure est acceptable.
315 TFLOPS

Fonctions d’IA

AI Software Frameworks Supported by GPU
PyTorch, TensorFlow, JAX, ONNX Runtime, vLLM, SGLang, Triton, Kokkos, RAJA
BF16 Matrix
5033 TFLOPS
BF16 Matrix Sparse
10066 TFLOPS
FP16 Matrix
5033 TFLOPS
FP16 Matrix Sparse
10066 TFLOPS
FP8 Matrix
20133 TFLOPS
INT8 Matrix
5033 TOPS
INT8 Matrix Sparse
10066 TOPS
MXFP4
40265 TFLOPS
MXFP6
20133 TFLOPS
MXFP8
20133 TFLOPS

Interconnexion et évolutivité

CPU-to-GPU Interconnect
256 GB/s
GPU Interconnect
UALink / UALoE
Scale-out Bandwidth
600 GB/s
Scale-up Bandwidth
3.6 TB/s

Divers

Virtualization
SR-IOV
Cache L2
192 MB

Benchmarks

FP32 (flottant)
Score
315 TFLOPS

Comparé aux autres GPU

FP32 (flottant) / TFLOPS
315 +0%
91.375 -71%
80.086 -74.6%
66.228 -79%