AMD Instinct MI450X

AMD Instinct MI450X
Test de la carte graphique AMD Instinct MI450X

AMD Instinct MI450X - un accélérateur serveur doté de 288 GB de HBM4 pour les racks Helios

Le 12 novembre 2026, AMD a présenté l’Instinct MI450X, un GPU serveur de la série MI400 destiné à l’entraînement des réseaux neuronaux et à l’exécution de modèles déjà entraînés. L’accélérateur se présente sous la forme d’un module à refroidissement liquide direct. Le rack AMD Helios peut accueillir 72 GPU de ce type.

La MI450X possède huit empilements de HBM4, pour une capacité totale de 288 GB. Le modèle supérieur MI455X en compte douze, pour 432 GB. Les deux modèles reposent sur l’architecture CDNA 5. AMD indique pour eux une même performance de calcul maximale et un débit mémoire pouvant atteindre 23,3 TB/s. La vitesse de la MI450X elle-même sur DeepSeek-R1 reste moins connue : le résultat publié lors de l’annonce concerne la MI455X. La différence de capacité mémoire peut déjà être évaluée à partir des poids et du cache du modèle.

DeepSeek-R1 tient-il sur une seule MI450X ?

Le modèle principal DeepSeek-R1 contient environ 671 milliards de paramètres, sans module supplémentaire de prédiction de plusieurs tokens (MTP). Lors du traitement d’un seul token, environ 37 milliards de paramètres sont utilisés. Pour le token suivant, le modèle peut sélectionner d’autres experts ; pour charger entièrement le modèle dans la mémoire du GPU, les poids de tous les experts sont donc nécessaires.

Avec un empaquetage idéal à quatre bits par paramètre, les seuls poids occuperaient environ 335,5 GB, soit 312,5 GiB. Il s’agit d’une estimation minimale, sans données auxiliaires. Même si l’on interprète la capacité annoncée de 288 GB comme 288 GiB, les poids nécessiteraient tout de même plus d’une MI450X. La capacité nominale de la MI455X suffit aux seuls poids selon les deux interprétations des unités. L’exécution du modèle nécessite également des tampons de travail et de la mémoire pour le contexte.

Le format de stockage influence sensiblement le calcul. En MXFP4, chaque groupe de 32 valeurs sur quatre bits s’accompagne d’un octet de facteur d’échelle commun. Si les 671 milliards de paramètres étaient empaquetés dans ce format, ils occuperaient environ 356,5 GB, soit 332 GiB. La taille réelle dépend notamment des couches que l’implémentation choisie conserve à une précision supérieure.

Le contexte occupe lui aussi de la mémoire. Par exemple, pour DeepSeek-R1 avec un cache MLA compact en BF16, une requête de 131 072 tokens correspond à environ 9,2 GB de données de cache. Ce calcul porte sur 61 couches, hors surcharge du programme. Il permet d’estimer l’ordre de grandeur nécessaire à un long dialogue, mais il faut mesurer le système en fonctionnement pour déterminer le nombre de requêtes simultanées.

Quand 288 GB suffisent

  • Pour un modèle de 70 milliards de paramètres, les poids en BF16 occupent environ 140 GB. Une MI450X conserve donc de la place pour le cache et les tampons de travail. Si cela suffit pour la longueur de contexte requise, les autres GPU peuvent servir des copies distinctes du modèle.
  • Avec un grand nombre de longs dialogues, le serveur peut épuiser la mémoire destinée au cache. Dans ce cas, la HBM4 supplémentaire de la MI455X permet de traiter davantage de requêtes simultanément.
  • Lorsqu’un modèle avec son cache tient sur un seul GPU, son déploiement est plus simple : cette copie n’a pas besoin d’échanger des données entre accélérateurs. La vitesse maximale sous charge est une autre question. Répartir les calculs entre plusieurs GPU peut être avantageux même si la mémoire d’un seul accélérateur suffit.

Ce que montrent les tests de DeepSeek-R1

Dans le scénario MLPerf Inference Offline, le système reçoit toutes les requêtes en même temps. Le test mesure le débit total de génération des tokens de sortie. Pour la MI455X, le laboratoire d’AMD a publié un résultat directement ramené à un seul GPU. Pour les systèmes NVIDIA, la valeur indiquée dans la dernière colonne est calculée en divisant le résultat du système par le nombre d’accélérateurs.

Système Source du résultat Nombre de GPU Offline, tokens/s par système Offline, tokens/s par GPU
AMD Helios avec Instinct MI450X Aucune donnée au 18 novembre 2026 - - -
AMD Helios avec Instinct MI455X Test interne d’AMD Non indiqué - 21 333
NVIDIA Vera Rubin NVL72 MLPerf v6.1 Closed, Preview 72 1 183 327 16 435
Nebius, NVIDIA GB300 NVL72 MLPerf v6.1 Closed 72 689 961 9 583
Nebius, NVIDIA HGX B300 MLPerf v6.1 Closed 8 69 655 8 707

AMD a comparé ses propres 21 333 tokens/s sur MI455X au résultat de la Vera Rubin NVL72 dans la catégorie Preview. L’écart entre les valeurs publiées est d’environ 30 %. Le test d’AMD n’a pas fait l’objet d’une vérification par MLCommons. L’annonce ne précise pas non plus le nombre de GPU utilisés ni le format numérique des calculs. Ces données ne permettent pas de déterminer quel aurait été l’avantage dans des conditions identiques.

La Vera Rubin NVL72 dispose également de résultats avec des contraintes de latence. Dans MLPerf Server, un rack de 72 GPU a atteint 1 175 890 tokens/s ; en mode Interactive, il a atteint 652 750 tokens/s. En mode Interactive, les exigences sont plus strictes : jusqu’à 1,5 seconde pour le premier token et jusqu’à 15 ms pour chacun des suivants. Ce sont les seuils du test. L’annonce d’AMD ne fournit pas de résultats comparables en modes Server et Interactive pour les MI450X et MI455X.

Comment choisir entre les MI450X et MI455X

L’avantage pratique des 432 GB se manifestera si la mémoire supplémentaire permet de placer une copie du modèle sur un nombre réduit de GPU ou de traiter davantage de requêtes avec la latence requise. Le coût d’un million de tokens de sortie doit être comparé pour l’ensemble de la configuration, avec le même modèle et la même charge. AMD n’a pas indiqué le prix des systèmes Helios ; il est donc impossible de déterminer, à partir des résultats publiés, quelle configuration serait la plus avantageuse.

Comparaison de GPU

Comparer Instinct MI450X avec d’autres GPUs

Veuillez sélectionner GPU dans la liste déroulante.

Basique

Nom de l'étiquette
AMD
Plate-forme
Professional
Date de lancement
November 2026
Accelerated Compute Dies (XCD)
8
Cooling
Direct Liquid Cooling
Form Factor
EAM
GPU Lithography
TSMC 2nm / 3nm FinFET
I/O Dies (IOD)
2
Nom du modèle
AMD Instinct MI450X
Génération
Instinct MI400 Series
Horloge Boost
2400 MHz
Transistors
320 billion
Unités de calcul
256
Fonderie
TSMC
Taille de processus
2nm / 3nm FinFET
Architecture
CDNA 5

Spécifications de la mémoire

HBM Memory Stacks
8
Memory ECC
Yes
Memory Partitions
4
Taille de Mémoire
288 GB
Type de Mémoire
HBM4
Bande Passante
La bande passante mémoire fait référence au débit de transfert de données entre la puce graphique et la mémoire vidéo. Elle est mesurée en octets par seconde, et la formule pour la calculer est : bande passante mémoire = fréquence de fonctionnement × largeur du bus mémoire / 8 bits. En français: La bande passante mémoire désigne le taux de transfert de données entre la puce graphique et la mémoire vidéo. Elle est mesurée en octets par seconde et la formule pour la calculer est la suivante : bande passante mémoire = fréquence de fonctionnement × largeur du bus mémoire / 8 bits.
23.3 TB/s

Affichage et multimédia

AV1 Encode/Decode
AV1 decode (4 shared engines)
H.264 Hardware Encode/Decode
H.264 decode (4 shared engines)
H.265 HEVC Hardware Encode/Decode
H.265 decode (4 shared engines)
JPEG/MJPEG Codec Cores
40
Video Decoder Engines
4 shared engines (H.264, H.265, VP9, AV1)

Performance théorique

FP32 Matrix
315 TFLOPS
FP32 Vector
315 TFLOPS
FP16 (demi)
Une mesure importante pour évaluer les performances des GPU est la capacité de calcul en virgule flottante. Les nombres en virgule flottante à demi-précision (16 bits) sont utilisés pour des applications telles que l'apprentissage automatique, où une précision inférieure est acceptable. Les nombres en virgule flottante simple précision (32 bits) sont utilisés pour les tâches courantes de multimédia et de traitement graphique, tandis que les nombres en virgule flottante double précision (64 bits) sont requis pour le calcul scientifique qui nécessite une large plage numérique et une grande précision.
315 TFLOPS
FP64 (double précision)
Une mesure importante pour évaluer les performances des GPU est la capacité de calcul en virgule flottante. Les nombres en virgule flottante à demi-précision (16 bits) sont utilisés pour des applications telles que l'apprentissage automatique, où une précision inférieure est acceptable. Les nombres en virgule flottante simple précision (32 bits) sont utilisés pour les tâches courantes de multimédia et de traitement graphique, tandis que les nombres en virgule flottante double précision (64 bits) sont requis pour le calcul scientifique qui nécessite une large plage numérique et une grande précision.
5 TFLOPS
FP32 (flottant)
Une mesure importante pour mesurer les performances du GPU est la capacité de calcul en virgule flottante. Les nombres à virgule flottante simple précision (32 bits) sont utilisés pour les tâches courantes de traitement multimédia et graphique, tandis que les nombres à virgule flottante double précision (64 bits) sont requis pour le calcul scientifique qui exige une large plage numérique et une grande précision. Les nombres à virgule flottante demi-précision (16 bits) sont utilisés pour des applications telles que l'apprentissage automatique, où une précision inférieure est acceptable.
315 TFLOPS

Fonctions d’IA

AI Software Frameworks Supported by GPU
PyTorch, TensorFlow, JAX, ONNX Runtime, SGLang, Triton, Kokkos, RAJA
BF16 Matrix
5033 TFLOPS
BF16 Matrix Sparse
10066 TFLOPS
FP16 Matrix
5033 TFLOPS
FP16 Matrix Sparse
10066 TFLOPS
FP8 Matrix
20133 TFLOPS
INT8 Matrix
5033 TOPS
INT8 Matrix Sparse
10066 TOPS
MXFP4
40265 TFLOPS
MXFP6
20133 TFLOPS
MXFP8
20133 TFLOPS

Interconnexion et évolutivité

CPU-to-GPU Interconnect
256 GB/s
GPU Interconnect
UALink / UALoE
Scale-out Bandwidth
600 GB/s
Scale-up Bandwidth
3.6 TB/s

Divers

Virtualization
SR-IOV
Cache L2
192 MB

Benchmarks

FP32 (flottant)
Score
315 TFLOPS

Comparé aux autres GPU

FP32 (flottant) / TFLOPS
115.15 -63.4%
91.375 -71%
80.086 -74.6%
66.228 -79%