AMD Instinct MI450X
AMD Instinct MI450X - acelerador de servidor com 288 GB de HBM4 para racks Helios
Em 12 de novembro de 2026, a AMD apresentou o Instinct MI450X, uma GPU de servidor da série MI400 para o treinamento de redes neurais e a execução de modelos já treinados. O acelerador é fabricado na forma de um módulo com resfriamento líquido direto. O rack AMD Helios comporta 72 dessas GPUs.
O MI450X tem oito stacks de HBM4, com capacidade total de 288 GB. O MI455X, modelo superior, tem doze stacks e 432 GB. Ambos são baseados na arquitetura CDNA 5. A AMD informa a mesma capacidade computacional de pico e a mesma largura de banda de memória, de até 23,3 TB/s, para os dois modelos. Ainda há menos informações sobre a velocidade do próprio MI450X no DeepSeek-R1: o resultado publicado no anúncio refere-se ao MI455X. A diferença de capacidade de memória já pode ser estimada usando como exemplo os pesos e o cache do modelo.
O DeepSeek-R1 cabe em um único MI450X?
O modelo principal do DeepSeek-R1 contém cerca de 671 bilhões de parâmetros, sem o módulo adicional de previsão de vários tokens (MTP). Durante o processamento de um token, cerca de 37 bilhões de parâmetros são utilizados. Para o token seguinte, o modelo pode escolher outros especialistas; por isso, quando todos os especialistas são carregados na memória da GPU, os pesos de todos eles são necessários.
Com um empacotamento ideal de quatro bits por parâmetro, apenas os pesos ocupariam cerca de 335,5 GB, ou 312,5 GiB. Essa é uma estimativa mínima, sem dados auxiliares. Mesmo interpretando os 288 GB especificados como 288 GiB, os pesos ainda exigiriam mais de um MI450X. A capacidade nominal do MI455X é suficiente para os próprios pesos sob as duas interpretações das unidades. Para executar o modelo, também são necessários buffers de trabalho e memória para o contexto.
O formato de armazenamento afeta significativamente o cálculo. No MXFP4, a cada 32 valores de quatro bits corresponde um byte de escala compartilhada. Se todos os 671 bilhões de parâmetros forem empacotados nesse formato, o resultado será de cerca de 356,5 GB, ou 332 GiB. O tamanho real depende, entre outros fatores, de quais camadas a implementação específica mantém com maior precisão.
O contexto também ocupa memória. Por exemplo, no DeepSeek-R1, com um cache MLA compacto em BF16, uma única solicitação com 131.072 tokens corresponde a cerca de 9,2 GB de dados de cache. Esse cálculo considera 61 camadas e não inclui a sobrecarga do programa. Ele permite estimar a ordem de grandeza do consumo em um diálogo longo, mas para determinar o número de solicitações simultâneas é necessária uma medição em um servidor em funcionamento.
Quando 288 GB são suficientes
- Em um modelo com 70 bilhões de parâmetros, os pesos em BF16 ocupam cerca de 140 GB. Um único MI450X ainda terá espaço para o cache e os buffers de trabalho. Se isso for suficiente para o comprimento de contexto necessário, as demais GPUs poderão atender cópias separadas do modelo.
- Com um grande número de diálogos longos, o servidor pode esgotar a memória destinada ao cache. Nesse caso, a HBM4 adicional do MI455X permite manter mais solicitações sendo processadas simultaneamente.
- Quando o modelo e o cache cabem em uma única GPU, a implantação é mais simples: essa cópia não precisa trocar dados entre aceleradores. A velocidade máxima sob carga é uma questão à parte. Distribuir os cálculos entre várias GPUs pode ser vantajoso mesmo quando a memória de um único acelerador é suficiente.
O que os testes do DeepSeek-R1 mostram
No cenário MLPerf Inference Offline, o sistema recebe todas as solicitações de uma só vez. O teste mede a velocidade total de geração de tokens de saída. Para o MI455X, o laboratório da AMD publicou o resultado já convertido para o equivalente a uma única GPU. Para os sistemas NVIDIA, a média na última coluna é calculada dividindo-se o resultado do sistema pelo número de aceleradores.
| Sistema | Fonte do resultado | Número de GPUs | Offline, tokens/s por sistema | Offline, tokens/s por GPU |
|---|---|---|---|---|
| AMD Helios com Instinct MI450X | Sem dados em 18 de novembro de 2026 | - | - | - |
| AMD Helios com Instinct MI455X | Teste interno da AMD | Não informado | - | 21.333 |
| NVIDIA Vera Rubin NVL72 | MLPerf v6.1 Closed, Preview | 72 | 1.183.327 | 16.435 |
| Nebius, NVIDIA GB300 NVL72 | MLPerf v6.1 Closed | 72 | 689.961 | 9.583 |
| Nebius, NVIDIA HGX B300 | MLPerf v6.1 Closed | 8 | 69.655 | 8.707 |
A AMD comparou seus próprios 21.333 tokens/s no MI455X com o resultado do Vera Rubin NVL72 na categoria Preview. A diferença entre os valores publicados é de cerca de 30%. A medição da AMD não foi verificada pela MLCommons. O anúncio também não informa o número de GPUs utilizadas nem o formato numérico dos cálculos. Com esses dados, não é possível determinar qual seria a vantagem sob condições idênticas.
Também há resultados do Vera Rubin NVL72 com restrições de latência. No MLPerf Server, o rack com 72 GPUs alcançou 1.175.890 tokens/s; no Interactive, 652.750 tokens/s. No Interactive, os requisitos são mais rigorosos: até 1,5 segundo para o primeiro token e até 15 ms para cada token seguinte. Esses são os limites do teste. O anúncio da AMD não apresenta resultados comparáveis nos modos Server e Interactive para o MI450X e o MI455X.
Como escolher entre o MI450X e o MI455X
A vantagem prática dos 432 GB se manifestará se a memória adicional permitir acomodar uma cópia do modelo em um número menor de GPUs ou atender mais solicitações dentro da latência exigida. O custo de um milhão de tokens de saída deve ser comparado para toda a configuração, com o mesmo modelo e a mesma carga. A AMD não informou os preços do Helios no anúncio; portanto, ainda não é possível determinar qual configuração oferece melhor custo-benefício com base nos resultados publicados.
Comparação de GPU
Comparar Instinct MI450X com outros GPUs
Básico
Especificações de memória
Tela e multimídia
Desempenho Teórico
Recursos de IA
Interconexão e escalabilidade
Diversos
Classificações
Comparado com outra GPU
Compartilhar nas redes sociais
Ou faça um link para nós
<a href="https://cputronic.com/pt/gpu/amd-instinct-mi450x" target="_blank">AMD Instinct MI450X</a>