AMD Instinct MI450X
AMD Instinct MI450X - un accélérateur serveur doté de 288 GB de HBM4 pour les racks Helios
Le 12 novembre 2026, AMD a présenté l’Instinct MI450X, un GPU serveur de la série MI400 destiné à l’entraînement des réseaux neuronaux et à l’exécution de modèles déjà entraînés. L’accélérateur se présente sous la forme d’un module à refroidissement liquide direct. Le rack AMD Helios peut accueillir 72 GPU de ce type.
La MI450X possède huit empilements de HBM4, pour une capacité totale de 288 GB. Le modèle supérieur MI455X en compte douze, pour 432 GB. Les deux modèles reposent sur l’architecture CDNA 5. AMD indique pour eux une même performance de calcul maximale et un débit mémoire pouvant atteindre 23,3 TB/s. La vitesse de la MI450X elle-même sur DeepSeek-R1 reste moins connue : le résultat publié lors de l’annonce concerne la MI455X. La différence de capacité mémoire peut déjà être évaluée à partir des poids et du cache du modèle.
DeepSeek-R1 tient-il sur une seule MI450X ?
Le modèle principal DeepSeek-R1 contient environ 671 milliards de paramètres, sans module supplémentaire de prédiction de plusieurs tokens (MTP). Lors du traitement d’un seul token, environ 37 milliards de paramètres sont utilisés. Pour le token suivant, le modèle peut sélectionner d’autres experts ; pour charger entièrement le modèle dans la mémoire du GPU, les poids de tous les experts sont donc nécessaires.
Avec un empaquetage idéal à quatre bits par paramètre, les seuls poids occuperaient environ 335,5 GB, soit 312,5 GiB. Il s’agit d’une estimation minimale, sans données auxiliaires. Même si l’on interprète la capacité annoncée de 288 GB comme 288 GiB, les poids nécessiteraient tout de même plus d’une MI450X. La capacité nominale de la MI455X suffit aux seuls poids selon les deux interprétations des unités. L’exécution du modèle nécessite également des tampons de travail et de la mémoire pour le contexte.
Le format de stockage influence sensiblement le calcul. En MXFP4, chaque groupe de 32 valeurs sur quatre bits s’accompagne d’un octet de facteur d’échelle commun. Si les 671 milliards de paramètres étaient empaquetés dans ce format, ils occuperaient environ 356,5 GB, soit 332 GiB. La taille réelle dépend notamment des couches que l’implémentation choisie conserve à une précision supérieure.
Le contexte occupe lui aussi de la mémoire. Par exemple, pour DeepSeek-R1 avec un cache MLA compact en BF16, une requête de 131 072 tokens correspond à environ 9,2 GB de données de cache. Ce calcul porte sur 61 couches, hors surcharge du programme. Il permet d’estimer l’ordre de grandeur nécessaire à un long dialogue, mais il faut mesurer le système en fonctionnement pour déterminer le nombre de requêtes simultanées.
Quand 288 GB suffisent
- Pour un modèle de 70 milliards de paramètres, les poids en BF16 occupent environ 140 GB. Une MI450X conserve donc de la place pour le cache et les tampons de travail. Si cela suffit pour la longueur de contexte requise, les autres GPU peuvent servir des copies distinctes du modèle.
- Avec un grand nombre de longs dialogues, le serveur peut épuiser la mémoire destinée au cache. Dans ce cas, la HBM4 supplémentaire de la MI455X permet de traiter davantage de requêtes simultanément.
- Lorsqu’un modèle avec son cache tient sur un seul GPU, son déploiement est plus simple : cette copie n’a pas besoin d’échanger des données entre accélérateurs. La vitesse maximale sous charge est une autre question. Répartir les calculs entre plusieurs GPU peut être avantageux même si la mémoire d’un seul accélérateur suffit.
Ce que montrent les tests de DeepSeek-R1
Dans le scénario MLPerf Inference Offline, le système reçoit toutes les requêtes en même temps. Le test mesure le débit total de génération des tokens de sortie. Pour la MI455X, le laboratoire d’AMD a publié un résultat directement ramené à un seul GPU. Pour les systèmes NVIDIA, la valeur indiquée dans la dernière colonne est calculée en divisant le résultat du système par le nombre d’accélérateurs.
| Système | Source du résultat | Nombre de GPU | Offline, tokens/s par système | Offline, tokens/s par GPU |
|---|---|---|---|---|
| AMD Helios avec Instinct MI450X | Aucune donnée au 18 novembre 2026 | - | - | - |
| AMD Helios avec Instinct MI455X | Test interne d’AMD | Non indiqué | - | 21 333 |
| NVIDIA Vera Rubin NVL72 | MLPerf v6.1 Closed, Preview | 72 | 1 183 327 | 16 435 |
| Nebius, NVIDIA GB300 NVL72 | MLPerf v6.1 Closed | 72 | 689 961 | 9 583 |
| Nebius, NVIDIA HGX B300 | MLPerf v6.1 Closed | 8 | 69 655 | 8 707 |
AMD a comparé ses propres 21 333 tokens/s sur MI455X au résultat de la Vera Rubin NVL72 dans la catégorie Preview. L’écart entre les valeurs publiées est d’environ 30 %. Le test d’AMD n’a pas fait l’objet d’une vérification par MLCommons. L’annonce ne précise pas non plus le nombre de GPU utilisés ni le format numérique des calculs. Ces données ne permettent pas de déterminer quel aurait été l’avantage dans des conditions identiques.
La Vera Rubin NVL72 dispose également de résultats avec des contraintes de latence. Dans MLPerf Server, un rack de 72 GPU a atteint 1 175 890 tokens/s ; en mode Interactive, il a atteint 652 750 tokens/s. En mode Interactive, les exigences sont plus strictes : jusqu’à 1,5 seconde pour le premier token et jusqu’à 15 ms pour chacun des suivants. Ce sont les seuils du test. L’annonce d’AMD ne fournit pas de résultats comparables en modes Server et Interactive pour les MI450X et MI455X.
Comment choisir entre les MI450X et MI455X
L’avantage pratique des 432 GB se manifestera si la mémoire supplémentaire permet de placer une copie du modèle sur un nombre réduit de GPU ou de traiter davantage de requêtes avec la latence requise. Le coût d’un million de tokens de sortie doit être comparé pour l’ensemble de la configuration, avec le même modèle et la même charge. AMD n’a pas indiqué le prix des systèmes Helios ; il est donc impossible de déterminer, à partir des résultats publiés, quelle configuration serait la plus avantageuse.
Comparaison de GPU
Comparer Instinct MI450X avec d’autres GPUs
Basique
Spécifications de la mémoire
Affichage et multimédia
Performance théorique
Fonctions d’IA
Interconnexion et évolutivité
Divers
Benchmarks
Comparé aux autres GPU
Partager sur les réseaux sociaux
Ou créez un lien vers nous
<a href="https://cputronic.com/fr/gpu/amd-instinct-mi450x" target="_blank">AMD Instinct MI450X</a>