AMD Instinct MI450X

AMD Instinct MI450X
Análise da placa de vídeo AMD Instinct MI450X

AMD Instinct MI450X - acelerador de servidor com 288 GB de HBM4 para racks Helios

Em 12 de novembro de 2026, a AMD apresentou o Instinct MI450X, uma GPU de servidor da série MI400 para o treinamento de redes neurais e a execução de modelos já treinados. O acelerador é fabricado na forma de um módulo com resfriamento líquido direto. O rack AMD Helios comporta 72 dessas GPUs.

O MI450X tem oito stacks de HBM4, com capacidade total de 288 GB. O MI455X, modelo superior, tem doze stacks e 432 GB. Ambos são baseados na arquitetura CDNA 5. A AMD informa a mesma capacidade computacional de pico e a mesma largura de banda de memória, de até 23,3 TB/s, para os dois modelos. Ainda há menos informações sobre a velocidade do próprio MI450X no DeepSeek-R1: o resultado publicado no anúncio refere-se ao MI455X. A diferença de capacidade de memória já pode ser estimada usando como exemplo os pesos e o cache do modelo.

O DeepSeek-R1 cabe em um único MI450X?

O modelo principal do DeepSeek-R1 contém cerca de 671 bilhões de parâmetros, sem o módulo adicional de previsão de vários tokens (MTP). Durante o processamento de um token, cerca de 37 bilhões de parâmetros são utilizados. Para o token seguinte, o modelo pode escolher outros especialistas; por isso, quando todos os especialistas são carregados na memória da GPU, os pesos de todos eles são necessários.

Com um empacotamento ideal de quatro bits por parâmetro, apenas os pesos ocupariam cerca de 335,5 GB, ou 312,5 GiB. Essa é uma estimativa mínima, sem dados auxiliares. Mesmo interpretando os 288 GB especificados como 288 GiB, os pesos ainda exigiriam mais de um MI450X. A capacidade nominal do MI455X é suficiente para os próprios pesos sob as duas interpretações das unidades. Para executar o modelo, também são necessários buffers de trabalho e memória para o contexto.

O formato de armazenamento afeta significativamente o cálculo. No MXFP4, a cada 32 valores de quatro bits corresponde um byte de escala compartilhada. Se todos os 671 bilhões de parâmetros forem empacotados nesse formato, o resultado será de cerca de 356,5 GB, ou 332 GiB. O tamanho real depende, entre outros fatores, de quais camadas a implementação específica mantém com maior precisão.

O contexto também ocupa memória. Por exemplo, no DeepSeek-R1, com um cache MLA compacto em BF16, uma única solicitação com 131.072 tokens corresponde a cerca de 9,2 GB de dados de cache. Esse cálculo considera 61 camadas e não inclui a sobrecarga do programa. Ele permite estimar a ordem de grandeza do consumo em um diálogo longo, mas para determinar o número de solicitações simultâneas é necessária uma medição em um servidor em funcionamento.

Quando 288 GB são suficientes

  • Em um modelo com 70 bilhões de parâmetros, os pesos em BF16 ocupam cerca de 140 GB. Um único MI450X ainda terá espaço para o cache e os buffers de trabalho. Se isso for suficiente para o comprimento de contexto necessário, as demais GPUs poderão atender cópias separadas do modelo.
  • Com um grande número de diálogos longos, o servidor pode esgotar a memória destinada ao cache. Nesse caso, a HBM4 adicional do MI455X permite manter mais solicitações sendo processadas simultaneamente.
  • Quando o modelo e o cache cabem em uma única GPU, a implantação é mais simples: essa cópia não precisa trocar dados entre aceleradores. A velocidade máxima sob carga é uma questão à parte. Distribuir os cálculos entre várias GPUs pode ser vantajoso mesmo quando a memória de um único acelerador é suficiente.

O que os testes do DeepSeek-R1 mostram

No cenário MLPerf Inference Offline, o sistema recebe todas as solicitações de uma só vez. O teste mede a velocidade total de geração de tokens de saída. Para o MI455X, o laboratório da AMD publicou o resultado já convertido para o equivalente a uma única GPU. Para os sistemas NVIDIA, a média na última coluna é calculada dividindo-se o resultado do sistema pelo número de aceleradores.

Sistema Fonte do resultado Número de GPUs Offline, tokens/s por sistema Offline, tokens/s por GPU
AMD Helios com Instinct MI450X Sem dados em 18 de novembro de 2026 - - -
AMD Helios com Instinct MI455X Teste interno da AMD Não informado - 21.333
NVIDIA Vera Rubin NVL72 MLPerf v6.1 Closed, Preview 72 1.183.327 16.435
Nebius, NVIDIA GB300 NVL72 MLPerf v6.1 Closed 72 689.961 9.583
Nebius, NVIDIA HGX B300 MLPerf v6.1 Closed 8 69.655 8.707

A AMD comparou seus próprios 21.333 tokens/s no MI455X com o resultado do Vera Rubin NVL72 na categoria Preview. A diferença entre os valores publicados é de cerca de 30%. A medição da AMD não foi verificada pela MLCommons. O anúncio também não informa o número de GPUs utilizadas nem o formato numérico dos cálculos. Com esses dados, não é possível determinar qual seria a vantagem sob condições idênticas.

Também há resultados do Vera Rubin NVL72 com restrições de latência. No MLPerf Server, o rack com 72 GPUs alcançou 1.175.890 tokens/s; no Interactive, 652.750 tokens/s. No Interactive, os requisitos são mais rigorosos: até 1,5 segundo para o primeiro token e até 15 ms para cada token seguinte. Esses são os limites do teste. O anúncio da AMD não apresenta resultados comparáveis nos modos Server e Interactive para o MI450X e o MI455X.

Como escolher entre o MI450X e o MI455X

A vantagem prática dos 432 GB se manifestará se a memória adicional permitir acomodar uma cópia do modelo em um número menor de GPUs ou atender mais solicitações dentro da latência exigida. O custo de um milhão de tokens de saída deve ser comparado para toda a configuração, com o mesmo modelo e a mesma carga. A AMD não informou os preços do Helios no anúncio; portanto, ainda não é possível determinar qual configuração oferece melhor custo-benefício com base nos resultados publicados.

Comparação de GPU

Comparar Instinct MI450X com outros GPUs

Selecione GPU na lista suspensa.

Básico

Nome do rótulo
AMD
Plataforma
Professional
Data de lançamento
November 2026
Accelerated Compute Dies (XCD)
8
Cooling
Direct Liquid Cooling
Form Factor
EAM
GPU Lithography
TSMC 2nm / 3nm FinFET
I/O Dies (IOD)
2
Nome do modelo
AMD Instinct MI450X
Geração
Instinct MI400 Series
Relógio Boost
2400 MHz
Transistores
320 billion
Unidades de Cálculo
256
Fundição
TSMC
Tamanho do Processo
2nm / 3nm FinFET
Arquitetura
CDNA 5

Especificações de memória

HBM Memory Stacks
8
Memory ECC
Yes
Memory Partitions
4
Tamanho da Memória
288 GB
Tipo de Memória
HBM4
Largura de Banda
A largura de banda da memória se refere à taxa de transferência de dados entre o chip gráfico e a memória de vídeo. É medida em bytes por segundo.
23.3 TB/s

Tela e multimídia

AV1 Encode/Decode
AV1 decode (4 shared engines)
H.264 Hardware Encode/Decode
H.264 decode (4 shared engines)
H.265 HEVC Hardware Encode/Decode
H.265 decode (4 shared engines)
JPEG/MJPEG Codec Cores
40
Video Decoder Engines
4 shared engines (H.264, H.265, VP9, AV1)

Desempenho Teórico

FP32 Matrix
315 TFLOPS
FP32 Vector
315 TFLOPS
FP16 (metade)
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de meia precisão (16 bits) são usados em aplicações como aprendizado de máquina.
315 TFLOPS
FP64 (duplo)
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de precisão dupla (64 bits) são necessários para computação científica.
5 TFLOPS
FP32 (flutuante)
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de precisão simples (32 bits) são usados para tarefas comuns de processamento multimídia e gráfico, enquanto números de ponto flutuante de precisão dupla (64 bits) são necessários para computação científica que exige uma ampla faixa numérica e alta precisão. Números de ponto flutuante de meia precisão (16 bits) são usados para aplicações como aprendizado de máquina, onde uma precisão menor é aceitável.
315 TFLOPS

Recursos de IA

AI Software Frameworks Supported by GPU
PyTorch, TensorFlow, JAX, ONNX Runtime, SGLang, Triton, Kokkos, RAJA
BF16 Matrix
5033 TFLOPS
BF16 Matrix Sparse
10066 TFLOPS
FP16 Matrix
5033 TFLOPS
FP16 Matrix Sparse
10066 TFLOPS
FP8 Matrix
20133 TFLOPS
INT8 Matrix
5033 TOPS
INT8 Matrix Sparse
10066 TOPS
MXFP4
40265 TFLOPS
MXFP6
20133 TFLOPS
MXFP8
20133 TFLOPS

Interconexão e escalabilidade

CPU-to-GPU Interconnect
256 GB/s
GPU Interconnect
UALink / UALoE
Scale-out Bandwidth
600 GB/s
Scale-up Bandwidth
3.6 TB/s

Diversos

Virtualization
SR-IOV
Cache L2
192 MB

Classificações

FP32 (flutuante)
Pontuação
315 TFLOPS

Comparado com outra GPU

FP32 (flutuante) / TFLOPS
115.15 -63.4%
91.375 -71%
80.086 -74.6%
66.228 -79%