AMD Instinct MI455X

AMD Instinct MI455X
Análise da placa de vídeo AMD Instinct MI455X

AMD Instinct MI455X - 432 GB de HBM4 e primeiros resultados no DeepSeek-R1

Em 23 de julho de 2026, a AMD apresentou o Instinct MI455X como parte do Helios - um rack de servidores para treinamento e execução de redes neurais. O MI455X é um módulo com refrigeração líquida direta. Cada acelerador desse tipo conta com 432 GB de memória HBM4, enquanto a capacidade total de um rack completo com 72 GPUs chega a aproximadamente 31 TB.

Em novembro, a AMD informou que o sistema Helios atingiu 21.333 tokens/s no DeepSeek-R1, calculados por MI455X. Em 12 de novembro, a empresa comparou esse indicador com o resultado do NVIDIA Vera Rubin e anunciou uma vantagem de até 30%. Quatro dias depois, a Nebius publicou um novo resultado do Vera Rubin no mesmo modelo - já superior a 22.000 tokens/s, em média por GPU.

Como o MI455X difere do MI450X

Os dois aceleradores do Helios são baseados na arquitetura CDNA 5. A AMD indica a mesma largura de banda de memória de pico: 23,3 TB/s. Os valores máximos de computação também são iguais, incluindo 40,3 PFLOPS no formato MXFP4. A principal diferença entre os modelos é a quantidade de dados que cabe na memória local de cada GPU.

Acelerador Memória HBM4 por GPU Número de pilhas HBM4
AMD Instinct MI455X 432 GB 12
AMD Instinct MI450X 288 GB 8

Os 144 GB adicionais são especialmente úteis quando os pesos do modelo excedem por pouco a memória de um acelerador. Se for possível colocar uma cópia inteira no MI455X, o servidor poderá processar requisições para ela sem trocar resultados intermediários entre as GPUs. Outra forma de aproveitar essa memória extra é reservar mais espaço para o cache de diálogos longos.

O DeepSeek-R1 cabe em 432 GB?

O modelo principal do DeepSeek-R1 contém cerca de 671 bilhões de parâmetros, sem o módulo adicional de predição de tokens. Durante a geração de um token, o modelo utiliza cerca de 37 bilhões de parâmetros, mas pode selecionar outros especialistas para o token seguinte. Para carregar o modelo inteiro, são necessários os pesos de todos os especialistas.

  • No empacotamento ideal, com quatro bits por parâmetro, os pesos ocupam cerca de 335,5 GB (312,5 GiB). Esse é o mínimo teórico, sem dados auxiliares.
  • No formato MXFP4, cada grupo de 32 valores possui um byte de escala compartilhada. Se todos os parâmetros forem armazenados nesse formato, o volume calculado aumentará para 356,5 GB (332 GiB).
  • Para uma única requisição com contexto de 131.072 tokens, o cache MLA compacto do DeepSeek-R1 em BF16 ocupa outros cerca de 9,2 GB. Essa é uma estimativa baseada na configuração do modelo, sem considerar buffers de trabalho e o overhead do programa.

De acordo com esses cálculos, os pesos de quatro bits cabem na memória nominal de um único MI455X, mas excedem a capacidade de um MI450X. O número de requisições longas que o MI455X poderá atender simultaneamente depende do formato efetivo dos pesos e do cache. A AMD não divulgou detalhes suficientes sobre a configuração de seu teste para relacionar o resultado de 21.333 tokens/s à alocação do modelo em uma única GPU.

DeepSeek-R1 no MI455X, MI355X e NVIDIA Vera Rubin

No cenário Offline do MLPerf Inference, o sistema recebe todas as requisições de uma só vez. O teste mede a velocidade total de geração para todas as requisições. Na última coluna, os resultados públicos do MLPerf mostram a velocidade do sistema dividida pelo número de aceleradores. No caso do MI455X, o valor por GPU foi informado pela própria AMD.

Sistema Fonte do resultado Offline Número de GPUs Tokens/s no sistema Tokens/s por GPU
AMD Helios, Instinct MI455X Laboratório da AMD, novembro Não informado - 21.333
NVIDIA Vera Rubin NVL72 MLPerf v6.1, setembro, Preview 72 1.183.327 16.435
Nebius, NVIDIA Vera Rubin NVL72 MLPerf v6.1, novembro, Available 72 1.586.667 22.037
Crusoe, AMD Instinct MI355X MLPerf v6.1, setembro 512 2.901.950 5.668

Para sua comparação, a AMD usou o resultado do Vera Rubin de setembro. Em relação a ele, o indicador do MI455X é de fato aproximadamente 30% maior. Na publicação de novembro da Nebius, a média por Rubin já é 3,3% superior ao número divulgado pela AMD. Ambas as diferenças dizem respeito a sistemas específicos. O resultado do MI455X foi obtido em um teste interno que não passou pela verificação da MLCommons. A AMD não informou o número de aceleradores nem a precisão dos cálculos.

Para um serviço interativo, resta outra questão: quantas requisições o sistema consegue atender sob uma determinada limitação de tempo de resposta. No cenário Server, o rack da Nebius apresentou 1.752.403 tokens/s em novembro. Para o MI455X, a mensagem de novembro da AMD traz apenas o resultado Offline; portanto, não é possível comparar a latência de resposta dos dois sistemas com base nessas publicações.

Para quais tarefas o MI455X é necessário

O caso mais evidente para o MI455X é um modelo para o qual 288 GB por GPU são insuficientes por pouco. A memória adicional pode reduzir o número de aceleradores por cópia ou permitir que o servidor mantenha mais diálogos longos simultaneamente. Se a mesma carga couber no MI450X, o modelo superior não terá uma vantagem de especificação na largura de banda da HBM4. Nesse caso, a escolha dependerá da velocidade medida e do custo de toda a configuração para o comprimento de contexto necessário e o tempo aceitável até o primeiro token.

Comparação de GPU

Comparar Instinct MI455X com outros GPUs

Selecione GPU na lista suspensa.

Básico

Nome do rótulo
AMD
Plataforma
Professional
Data de lançamento
July 2026
Accelerated Compute Dies (XCD)
8
Cooling
Direct Liquid Cooling
Form Factor
EAM
GPU Lithography
TSMC 2nm / 3nm FinFET
I/O Dies (IOD)
2
Work Group Processors (WGP)
256
Nome do modelo
AMD Instinct MI455X
Geração
Instinct MI400 Series
Relógio Boost
2400 MHz
Transistores
320 billion
Unidades de Cálculo
256
Fundição
TSMC
Tamanho do Processo
2nm / 3nm FinFET
Arquitetura
CDNA 5

Especificações de memória

HBM Memory Stacks
12
HBM4 Interface Channels
192
Memory ECC
Yes
Memory Partitions
4
Tamanho da Memória
432 GB
Tipo de Memória
HBM4
Largura de Banda
A largura de banda da memória se refere à taxa de transferência de dados entre o chip gráfico e a memória de vídeo. É medida em bytes por segundo.
23.3 TB/s

Tela e multimídia

AV1 Encode/Decode
AV1 decode (4 shared engines)
H.264 Hardware Encode/Decode
H.264 decode (4 shared engines)
H.265 HEVC Hardware Encode/Decode
H.265 decode (4 shared engines)
JPEG/MJPEG Codec Cores
40
Video Decoder Engines
4 shared engines (H.264, H.265, VP9, AV1)

Desempenho Teórico

FP32 Matrix
315 TFLOPS
FP32 Vector
315 TFLOPS
FP16 (metade)
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de meia precisão (16 bits) são usados em aplicações como aprendizado de máquina.
315 TFLOPS
FP64 (duplo)
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de precisão dupla (64 bits) são necessários para computação científica.
5 TFLOPS
FP32 (flutuante)
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de precisão simples (32 bits) são usados para tarefas comuns de processamento multimídia e gráfico, enquanto números de ponto flutuante de precisão dupla (64 bits) são necessários para computação científica que exige uma ampla faixa numérica e alta precisão. Números de ponto flutuante de meia precisão (16 bits) são usados para aplicações como aprendizado de máquina, onde uma precisão menor é aceitável.
315 TFLOPS

Recursos de IA

AI Software Frameworks Supported by GPU
PyTorch, TensorFlow, JAX, ONNX Runtime, vLLM, SGLang, Triton, Kokkos, RAJA
BF16 Matrix
5033 TFLOPS
BF16 Matrix Sparse
10066 TFLOPS
FP16 Matrix
5033 TFLOPS
FP16 Matrix Sparse
10066 TFLOPS
FP8 Matrix
20133 TFLOPS
INT8 Matrix
5033 TOPS
INT8 Matrix Sparse
10066 TOPS
MXFP4
40265 TFLOPS
MXFP6
20133 TFLOPS
MXFP8
20133 TFLOPS

Interconexão e escalabilidade

CPU-to-GPU Interconnect
256 GB/s
GPU Interconnect
UALink / UALoE
Scale-out Bandwidth
600 GB/s
Scale-up Bandwidth
3.6 TB/s

Diversos

Virtualization
SR-IOV
Cache L2
192 MB

Classificações

FP32 (flutuante)
Pontuação
315 TFLOPS

Comparado com outra GPU

FP32 (flutuante) / TFLOPS
315 +0%
91.375 -71%
80.086 -74.6%
66.228 -79%