AMD Instinct MI455X
AMD Instinct MI455X - 432 GB de HBM4 e primeiros resultados no DeepSeek-R1
Em 23 de julho de 2026, a AMD apresentou o Instinct MI455X como parte do Helios - um rack de servidores para treinamento e execução de redes neurais. O MI455X é um módulo com refrigeração líquida direta. Cada acelerador desse tipo conta com 432 GB de memória HBM4, enquanto a capacidade total de um rack completo com 72 GPUs chega a aproximadamente 31 TB.
Em novembro, a AMD informou que o sistema Helios atingiu 21.333 tokens/s no DeepSeek-R1, calculados por MI455X. Em 12 de novembro, a empresa comparou esse indicador com o resultado do NVIDIA Vera Rubin e anunciou uma vantagem de até 30%. Quatro dias depois, a Nebius publicou um novo resultado do Vera Rubin no mesmo modelo - já superior a 22.000 tokens/s, em média por GPU.
Como o MI455X difere do MI450X
Os dois aceleradores do Helios são baseados na arquitetura CDNA 5. A AMD indica a mesma largura de banda de memória de pico: 23,3 TB/s. Os valores máximos de computação também são iguais, incluindo 40,3 PFLOPS no formato MXFP4. A principal diferença entre os modelos é a quantidade de dados que cabe na memória local de cada GPU.
| Acelerador | Memória HBM4 por GPU | Número de pilhas HBM4 |
|---|---|---|
| AMD Instinct MI455X | 432 GB | 12 |
| AMD Instinct MI450X | 288 GB | 8 |
Os 144 GB adicionais são especialmente úteis quando os pesos do modelo excedem por pouco a memória de um acelerador. Se for possível colocar uma cópia inteira no MI455X, o servidor poderá processar requisições para ela sem trocar resultados intermediários entre as GPUs. Outra forma de aproveitar essa memória extra é reservar mais espaço para o cache de diálogos longos.
O DeepSeek-R1 cabe em 432 GB?
O modelo principal do DeepSeek-R1 contém cerca de 671 bilhões de parâmetros, sem o módulo adicional de predição de tokens. Durante a geração de um token, o modelo utiliza cerca de 37 bilhões de parâmetros, mas pode selecionar outros especialistas para o token seguinte. Para carregar o modelo inteiro, são necessários os pesos de todos os especialistas.
- No empacotamento ideal, com quatro bits por parâmetro, os pesos ocupam cerca de 335,5 GB (312,5 GiB). Esse é o mínimo teórico, sem dados auxiliares.
- No formato MXFP4, cada grupo de 32 valores possui um byte de escala compartilhada. Se todos os parâmetros forem armazenados nesse formato, o volume calculado aumentará para 356,5 GB (332 GiB).
- Para uma única requisição com contexto de 131.072 tokens, o cache MLA compacto do DeepSeek-R1 em BF16 ocupa outros cerca de 9,2 GB. Essa é uma estimativa baseada na configuração do modelo, sem considerar buffers de trabalho e o overhead do programa.
De acordo com esses cálculos, os pesos de quatro bits cabem na memória nominal de um único MI455X, mas excedem a capacidade de um MI450X. O número de requisições longas que o MI455X poderá atender simultaneamente depende do formato efetivo dos pesos e do cache. A AMD não divulgou detalhes suficientes sobre a configuração de seu teste para relacionar o resultado de 21.333 tokens/s à alocação do modelo em uma única GPU.
DeepSeek-R1 no MI455X, MI355X e NVIDIA Vera Rubin
No cenário Offline do MLPerf Inference, o sistema recebe todas as requisições de uma só vez. O teste mede a velocidade total de geração para todas as requisições. Na última coluna, os resultados públicos do MLPerf mostram a velocidade do sistema dividida pelo número de aceleradores. No caso do MI455X, o valor por GPU foi informado pela própria AMD.
| Sistema | Fonte do resultado Offline | Número de GPUs | Tokens/s no sistema | Tokens/s por GPU |
|---|---|---|---|---|
| AMD Helios, Instinct MI455X | Laboratório da AMD, novembro | Não informado | - | 21.333 |
| NVIDIA Vera Rubin NVL72 | MLPerf v6.1, setembro, Preview | 72 | 1.183.327 | 16.435 |
| Nebius, NVIDIA Vera Rubin NVL72 | MLPerf v6.1, novembro, Available | 72 | 1.586.667 | 22.037 |
| Crusoe, AMD Instinct MI355X | MLPerf v6.1, setembro | 512 | 2.901.950 | 5.668 |
Para sua comparação, a AMD usou o resultado do Vera Rubin de setembro. Em relação a ele, o indicador do MI455X é de fato aproximadamente 30% maior. Na publicação de novembro da Nebius, a média por Rubin já é 3,3% superior ao número divulgado pela AMD. Ambas as diferenças dizem respeito a sistemas específicos. O resultado do MI455X foi obtido em um teste interno que não passou pela verificação da MLCommons. A AMD não informou o número de aceleradores nem a precisão dos cálculos.
Para um serviço interativo, resta outra questão: quantas requisições o sistema consegue atender sob uma determinada limitação de tempo de resposta. No cenário Server, o rack da Nebius apresentou 1.752.403 tokens/s em novembro. Para o MI455X, a mensagem de novembro da AMD traz apenas o resultado Offline; portanto, não é possível comparar a latência de resposta dos dois sistemas com base nessas publicações.
Para quais tarefas o MI455X é necessário
O caso mais evidente para o MI455X é um modelo para o qual 288 GB por GPU são insuficientes por pouco. A memória adicional pode reduzir o número de aceleradores por cópia ou permitir que o servidor mantenha mais diálogos longos simultaneamente. Se a mesma carga couber no MI450X, o modelo superior não terá uma vantagem de especificação na largura de banda da HBM4. Nesse caso, a escolha dependerá da velocidade medida e do custo de toda a configuração para o comprimento de contexto necessário e o tempo aceitável até o primeiro token.
Comparação de GPU
Comparar Instinct MI455X com outros GPUs
Básico
Especificações de memória
Tela e multimídia
Desempenho Teórico
Recursos de IA
Interconexão e escalabilidade
Diversos
Classificações
Comparado com outra GPU
Compartilhar nas redes sociais
Ou faça um link para nós
<a href="https://cputronic.com/pt/gpu/amd-instinct-mi455x" target="_blank">AMD Instinct MI455X</a>