AMD Instinct MI455X
AMD Instinct MI455X - 432 GB de HBM4 et premiers résultats sur DeepSeek-R1
Le 23 juillet 2026, AMD a présenté l’Instinct MI455X dans le cadre de Helios, un rack serveur destiné à l’entraînement et à l’exécution de réseaux neuronaux. Le MI455X se présente sous la forme d’un module à refroidissement liquide direct. Chaque accélérateur embarque 432 GB de mémoire HBM4, tandis que la capacité totale atteint environ 31 TB dans un rack complet de 72 GPU.
En novembre, AMD a indiqué que le système Helios avait atteint 21 333 tokens/s sur DeepSeek-R1, rapportés à un MI455X. Le 12 novembre, l’entreprise a comparé ce résultat à celui de NVIDIA Vera Rubin et a annoncé un avantage pouvant atteindre 30 %. Quatre jours plus tard, Nebius a publié un nouveau résultat de Vera Rubin sur le même modèle : plus de 22 000 tokens/s en moyenne par GPU.
En quoi le MI455X se distingue du MI450X
Les deux accélérateurs destinés à Helios reposent sur l’architecture CDNA 5. AMD indique la même bande passante mémoire maximale théorique de 23,3 TB/s. Leurs performances de calcul maximales sont également identiques, avec notamment 40,3 PFLOPS au format MXFP4. La principale différence entre les deux modèles concerne la quantité de données pouvant tenir dans la mémoire locale de chaque GPU.
| Accélérateur | Mémoire HBM4 par GPU | Nombre de piles HBM4 |
|---|---|---|
| AMD Instinct MI455X | 432 GB | 12 |
| AMD Instinct MI450X | 288 GB | 8 |
Les 144 GB supplémentaires sont particulièrement utiles lorsque les poids d’un modèle dépassent de peu la mémoire d’un seul accélérateur. Si une copie complète tient sur un MI455X, le serveur peut traiter les requêtes sans échanger de résultats intermédiaires entre les GPU. Une autre façon d’exploiter cette mémoire supplémentaire consiste à consacrer davantage d’espace au cache pour les longues conversations.
DeepSeek-R1 tient-il dans 432 GB ?
Le modèle principal DeepSeek-R1 contient environ 671 milliards de paramètres, sans le module supplémentaire de prédiction des tokens. Lors de la génération d’un token, le modèle mobilise environ 37 milliards de paramètres, mais il peut sélectionner d’autres experts pour le token suivant. Le chargement complet du modèle nécessite les poids de tous les experts.
- Avec un empaquetage idéal à quatre bits par paramètre, les poids occupent environ 335,5 GB (312,5 GiB). Il s’agit du minimum théorique, sans données auxiliaires.
- Au format MXFP4, chaque groupe de 32 valeurs possède un octet contenant une échelle commune. Si tous les paramètres sont stockés dans ce format, le volume calculé atteint 356,5 GB (332 GiB).
- Pour une requête avec un contexte de 131 072 tokens, le cache MLA compact de DeepSeek-R1 au format BF16 occupe encore environ 9,2 GB. Il s’agit d’une estimation fondée sur la configuration du modèle, sans tenir compte des tampons de travail ni des surcoûts du logiciel.
Selon ces calculs, les poids sur quatre bits tiennent dans la mémoire nominale d’un MI455X, mais dépassent la capacité d’un MI450X. Le nombre de requêtes longues que le MI455X peut traiter simultanément dépend du format réel des poids et du cache. AMD n’a pas donné suffisamment de détails sur la configuration de son test pour permettre de relier le résultat de 21 333 tokens/s au placement du modèle sur un seul GPU.
DeepSeek-R1 sur MI455X, MI355X et NVIDIA Vera Rubin
Dans le scénario MLPerf Inference Offline, le système reçoit toutes les requêtes en même temps. Le test mesure le débit total de génération pour l’ensemble des requêtes. Dans la dernière colonne, les résultats publics de MLPerf indiquent le débit du système divisé par le nombre d’accélérateurs. Pour le MI455X, la valeur par GPU a été communiquée directement par AMD.
| Système | Source du résultat Offline | Nombre de GPU | Tokens/s pour le système | Tokens/s par GPU |
|---|---|---|---|---|
| AMD Helios, Instinct MI455X | Laboratoire AMD, novembre | Non indiqué | - | 21 333 |
| NVIDIA Vera Rubin NVL72 | MLPerf v6.1, septembre, Preview | 72 | 1 183 327 | 16 435 |
| Nebius, NVIDIA Vera Rubin NVL72 | MLPerf v6.1, novembre, Available | 72 | 1 586 667 | 22 037 |
| Crusoe, AMD Instinct MI355X | MLPerf v6.1, septembre | 512 | 2 901 950 | 5 668 |
Pour sa comparaison, AMD a retenu le résultat de Vera Rubin publié en septembre. Par rapport à celui-ci, le résultat du MI455X est effectivement supérieur d’environ 30 %. Dans la publication de Nebius en novembre, la moyenne par Rubin est déjà supérieure de 3,3 % au chiffre d’AMD. Ces deux écarts concernent des systèmes précis. Le résultat du MI455X provient d’un test interne qui n’a pas été vérifié par MLCommons. AMD n’a pas indiqué le nombre d’accélérateurs ni la précision des calculs.
Pour un service interactif, une autre question reste posée : combien de requêtes le système peut-il traiter avec une contrainte de temps de réponse ? Dans le scénario Server, le rack de Nebius a atteint 1 752 403 tokens/s en novembre. Pour le MI455X, le message publié par AMD en novembre ne contient que le résultat Offline ; il est donc impossible de comparer la latence de réponse des deux systèmes à partir de ces publications.
À quelles tâches le MI455X est-il destiné ?
Le cas d’usage le plus évident du MI455X est celui d’un modèle qui tient difficilement dans les 288 GB d’un GPU. La mémoire supplémentaire peut réduire le nombre d’accélérateurs nécessaires pour une copie du modèle, ou permettre au serveur de gérer simultanément davantage de longues conversations. Si la même charge tient sur un MI450X, le modèle haut de gamme ne bénéficie d’aucun avantage annoncé en matière de bande passante HBM4. Le choix dépend alors de la vitesse mesurée et du coût de la configuration complète, pour la longueur de contexte requise et le délai jusqu’au premier token acceptable.
Comparaison de GPU
Comparer Instinct MI455X avec d’autres GPUs
Basique
Spécifications de la mémoire
Affichage et multimédia
Performance théorique
Fonctions d’IA
Interconnexion et évolutivité
Divers
Benchmarks
Comparé aux autres GPU
Partager sur les réseaux sociaux
Ou créez un lien vers nous
<a href="https://cputronic.com/fr/gpu/amd-instinct-mi455x" target="_blank">AMD Instinct MI455X</a>