AMD Instinct MI455X
AMD Instinct MI455X: 432 GB di HBM4 e primi risultati su DeepSeek-R1
Il 23 luglio 2026 AMD ha presentato Instinct MI455X come parte di Helios, un rack server per l’addestramento e l’esecuzione di reti neurali. MI455X è realizzato come modulo con raffreddamento a liquido diretto. Ogni acceleratore dispone di 432 GB di memoria HBM4, mentre la capacità complessiva di un rack completo con 72 GPU raggiunge circa 31 TB.
A novembre AMD ha comunicato che il sistema Helios aveva raggiunto 21 333 token/s su DeepSeek-R1, calcolati per MI455X. Il 12 novembre l’azienda ha confrontato questo dato con il risultato di NVIDIA Vera Rubin, dichiarando un vantaggio fino al 30%. Quattro giorni dopo Nebius ha pubblicato un nuovo risultato di Vera Rubin sullo stesso modello: oltre 22 000 token/s in media per GPU.
In cosa MI455X differisce da MI450X
Entrambi gli acceleratori per Helios sono basati sull’architettura CDNA 5. AMD indica la stessa larghezza di banda di picco della memoria: 23,3 TB/s. Anche i valori di picco dei calcoli coincidono, compresi i 40,3 PFLOPS in formato MXFP4. La differenza principale tra i due modelli è la quantità di dati che può essere contenuta nella memoria locale di ciascuna GPU.
| Acceleratore | Memoria HBM4 per GPU | Numero di stack HBM4 |
|---|---|---|
| AMD Instinct MI455X | 432 GB | 12 |
| AMD Instinct MI450X | 288 GB | 8 |
I 144 GB aggiuntivi sono particolarmente utili quando i pesi del modello superano di poco la memoria disponibile su un singolo acceleratore. Se è possibile collocare una copia completa su MI455X, il server può elaborare le richieste senza scambiare risultati intermedi tra le GPU. Un altro modo di sfruttare la memoria aggiuntiva è destinare più spazio alla cache per le conversazioni lunghe.
DeepSeek-R1 entra in 432 GB?
Il modello principale DeepSeek-R1 contiene circa 671 miliardi di parametri, senza il modulo aggiuntivo per la previsione dei token. Durante la generazione di un singolo token vengono utilizzati circa 37 miliardi di parametri, ma per il token successivo il modello può selezionare esperti diversi. Per caricare il modello completo sono necessari i pesi di tutti gli esperti.
- Con una compressione ideale di quattro bit per parametro, i pesi occupano circa 335,5 GB (312,5 GiB). Si tratta del minimo teorico, senza dati di servizio.
- Nel formato MXFP4, ogni gruppo di 32 valori dispone di un byte contenente la scala comune. Se tutti i parametri vengono memorizzati in questo formato, il volume calcolato sale a 356,5 GB (332 GiB).
- Per una singola richiesta con un contesto di 131 072 token, la cache MLA compatta di DeepSeek-R1 in formato BF16 occupa altri 9,2 GB circa. Si tratta di una stima basata sulla configurazione del modello, senza considerare i buffer di lavoro e l’overhead del software.
Secondo questi calcoli, i pesi a quattro bit entrano nella memoria nominale di una singola MI455X e superano la capacità di una singola MI450X. Il numero di richieste lunghe che MI455X può gestire contemporaneamente dipende dal formato effettivo dei pesi e della cache. AMD non ha descritto la configurazione della propria esecuzione in modo sufficientemente dettagliato da permettere di collegare il risultato di 21 333 token/s al collocamento del modello su una singola GPU.
DeepSeek-R1 su MI455X, MI355X e NVIDIA Vera Rubin
Nello scenario MLPerf Inference Offline, il sistema riceve tutte le richieste contemporaneamente. Il test misura la velocità complessiva di generazione per tutte le richieste. Nell’ultima colonna, per i risultati pubblici di MLPerf, è indicata la velocità del sistema divisa per il numero di acceleratori. Per MI455X, il dato per GPU è stato comunicato direttamente da AMD.
| Sistema | Fonte del risultato Offline | Numero di GPU | Token/s per sistema | Token/s per GPU |
|---|---|---|---|---|
| AMD Helios, Instinct MI455X | Laboratorio AMD, novembre | Non indicato | - | 21 333 |
| NVIDIA Vera Rubin NVL72 | MLPerf v6.1, settembre, Preview | 72 | 1 183 327 | 16 435 |
| Nebius, NVIDIA Vera Rubin NVL72 | MLPerf v6.1, novembre, Available | 72 | 1 586 667 | 22 037 |
| Crusoe, AMD Instinct MI355X | MLPerf v6.1, settembre | 512 | 2 901 950 | 5 668 |
Per il proprio confronto, AMD ha utilizzato il risultato di Vera Rubin di settembre. Rispetto a quel dato, il valore di MI455X è effettivamente superiore di circa il 30%. Nella pubblicazione di Nebius di novembre, la media per un singolo Rubin è già superiore del 3,3% al dato di AMD. Entrambe le differenze si riferiscono a sistemi specifici. Il risultato di MI455X è stato ottenuto in un test interno che non è stato verificato da MLCommons. AMD non ha indicato il numero di acceleratori né la precisione dei calcoli.
Per un servizio interattivo resta un’altra questione: quante richieste il sistema riesce a gestire rispettando un limite sul tempo di risposta. Nello scenario Server, il rack di Nebius ha raggiunto a novembre 1 752 403 token/s. Per MI455X, nel messaggio di AMD di novembre è riportato soltanto il risultato Offline; pertanto, sulla base di queste pubblicazioni, non è possibile confrontare la latenza di risposta dei due sistemi.
Per quali attività serve MI455X
Il caso più evidente per MI455X è rappresentato da un modello che supera, anche di poco, i 288 GB disponibili per GPU. La memoria aggiuntiva può ridurre il numero di acceleratori necessari per una copia del modello oppure permettere al server di gestire contemporaneamente più conversazioni lunghe. Se lo stesso carico di lavoro entra in una MI450X, il modello superiore non offre alcun vantaggio nominale in termini di larghezza di banda della HBM4. In tal caso, la scelta dipende dalla velocità misurata e dal costo dell’intera configurazione, in funzione della lunghezza del contesto richiesta e del tempo accettabile per la generazione del primo token.
Confronto di GPU
Confronta Instinct MI455X con altri GPUs
Di base
Specifiche della memoria
Display e multimedia
Prestazioni teoriche
Funzioni IA
Interconnessione e scalabilità
Varie
Classifiche
Rispetto ad altre GPU
Condividi sui social media
Oppure linkaci
<a href="https://cputronic.com/it/gpu/amd-instinct-mi455x" target="_blank">AMD Instinct MI455X</a>