AMD Instinct MI455X

AMD Instinct MI455X
Обзор видеокарты AMD Instinct MI455X

AMD Instinct MI455X - 432 GB HBM4 и первые результаты в DeepSeek-R1

23 июля 2026 года AMD представила Instinct MI455X в составе Helios - серверной стойки для обучения и запуска нейросетей. MI455X выполнен в виде модуля с прямым жидкостным охлаждением. На одном таком ускорителе установлено 432 GB памяти HBM4, а в полной стойке из 72 GPU её суммарная ёмкость достигает примерно 31 TB.

В ноябре AMD сообщила, что система Helios на DeepSeek-R1 выдала 21 333 токена/с в пересчёте на MI455X. 12 ноября компания сравнила этот показатель с результатом NVIDIA Vera Rubin и объявила о преимуществе до 30%. Четыре дня спустя Nebius опубликовала новый результат Vera Rubin на той же модели - уже более 22 000 токенов/с в среднем на GPU.

Чем MI455X отличается от MI450X

Оба ускорителя для Helios построены на архитектуре CDNA 5. AMD указывает одинаковую пиковую пропускную способность памяти - 23,3 TB/s. Совпадают и пиковые показатели вычислений, в том числе 40,3 PFLOPS в формате MXFP4. Главное различие между моделями - сколько данных помещается в локальной памяти каждого GPU.

Ускоритель Память HBM4 на GPU Число стеков HBM4
AMD Instinct MI455X 432 GB 12
AMD Instinct MI450X 288 GB 8

Дополнительные 144 GB особенно полезны, когда весам модели немного не хватает памяти одного ускорителя. Если удаётся разместить всю копию на MI455X, сервер может выполнять запросы к ней без обмена промежуточными результатами между GPU. Другой способ использовать запас памяти - выделить больше места под кеш для длинных диалогов.

Поместится ли DeepSeek-R1 в 432 GB

Основная модель DeepSeek-R1 содержит около 671 млрд параметров без дополнительного модуля предсказания токенов. При генерации одного токена модель задействует около 37 млрд параметров, но для следующего токена может выбрать других экспертов. При загрузке модели целиком нужны веса всех экспертов.

  • При идеальной упаковке по четыре бита на параметр веса занимают около 335,5 GB (312,5 GiB). Это теоретический минимум без служебных данных.
  • В формате MXFP4 у каждой группы из 32 значений есть байт общего масштаба. Если в этом формате хранить все параметры, расчётный объём возрастёт до 356,5 GB (332 GiB).
  • Для одного запроса с контекстом 131 072 токена компактный MLA-кеш DeepSeek-R1 в формате BF16 занимает ещё около 9,2 GB. Это оценка по конфигурации модели без учёта рабочих буферов и накладных расходов программы.

По этим расчётам четырёхбитные веса помещаются в номинальную память одного MI455X и превышают ёмкость одного MI450X. Сколько длинных запросов сможет обслужить MI455X одновременно, зависит от фактического формата весов и кеша. AMD не раскрыла конфигурацию своего запуска достаточно подробно, чтобы связать результат 21 333 токена/с с размещением модели на одном GPU.

DeepSeek-R1 на MI455X, MI355X и NVIDIA Vera Rubin

В сценарии MLPerf Inference Offline система получает все запросы сразу. Тест измеряет суммарную скорость генерации по всем запросам. В последнем столбце для публичных результатов MLPerf приведена скорость системы, делённая на число ускорителей. Для MI455X показатель на GPU сообщила сама AMD.

Система Источник результата Offline Число GPU Токенов/с на систему Токенов/с на GPU
AMD Helios, Instinct MI455X Лаборатория AMD, ноябрь Не указано - 21 333
NVIDIA Vera Rubin NVL72 MLPerf v6.1, сентябрь, Preview 72 1 183 327 16 435
Nebius, NVIDIA Vera Rubin NVL72 MLPerf v6.1, ноябрь, Available 72 1 586 667 22 037
Crusoe, AMD Instinct MI355X MLPerf v6.1, сентябрь 512 2 901 950 5 668

Для своего сравнения AMD взяла сентябрьский результат Vera Rubin. Относительно него показатель MI455X действительно выше примерно на 30%. В ноябрьской публикации Nebius среднее на один Rubin уже на 3,3% выше цифры AMD. Обе разницы относятся к конкретным системам. Результат MI455X получен во внутреннем тесте, который не проходил проверку MLCommons. AMD не указала число ускорителей и точность вычислений.

Для интерактивного сервиса остаётся ещё один вопрос - сколько запросов система выдерживает при ограничении времени ответа. В сценарии Server ноябрьская стойка Nebius показала 1 752 403 токена/с. Для MI455X в ноябрьском сообщении AMD есть только Offline, поэтому сравнить задержку ответа двух систем по этим публикациям нельзя.

Для каких задач нужен MI455X

Наиболее понятный случай для MI455X - модель, которой тесно в 288 GB на GPU. Дополнительная память может сократить число ускорителей на одну копию или позволить серверу одновременно вести больше длинных диалогов. Если та же нагрузка помещается на MI450X, у старшей модели нет паспортного преимущества в пропускной способности HBM4. Тогда выбор зависит от измеренной скорости и стоимости всей конфигурации при нужной длине контекста и допустимом времени до первого токена.

Сравнение GPU

Сравнить Instinct MI455X с другими GPUs

Пожалуйста, выберите GPU из выпадающего списка.

Общая информация

Производитель
AMD
Платформа
Professional
Дата выпуска
July 2026
Accelerated Compute Dies (XCD)
8
Cooling
Direct Liquid Cooling
Form Factor
EAM
GPU Lithography
TSMC 2nm / 3nm FinFET
I/O Dies (IOD)
2
Work Group Processors (WGP)
256
Название модели
AMD Instinct MI455X
Поколение
Instinct MI400 Series
Boost Частота
2400 MHz
Транзисторы
320 billion
Вычислительные юниты
256
Производитель
TSMC
Размер процесса
2nm / 3nm FinFET
Архитектура
CDNA 5

Характеристики памяти

HBM Memory Stacks
12
HBM4 Interface Channels
192
Memory ECC
Yes
Memory Partitions
4
Объем памяти
432 GB
Тип памяти
HBM4
Пропускная способность
Пропускная способность памяти — это скорость передачи данных между графическим чипом и видеопамятью. Он измеряется в байтах в секунду, и формула для его расчета: пропускная способность памяти = рабочая частота × ширина шины памяти / 8 бит.
23.3 TB/s

Дисплей и мультимедиа

AV1 Encode/Decode
AV1 decode (4 shared engines)
H.264 Hardware Encode/Decode
H.264 decode (4 shared engines)
H.265 HEVC Hardware Encode/Decode
H.265 decode (4 shared engines)
JPEG/MJPEG Codec Cores
40
Video Decoder Engines
4 shared engines (H.264, H.265, VP9, AV1)

Теоретическая производительность

FP32 Matrix
315 TFLOPS
FP32 Vector
315 TFLOPS
FP16 (half)
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности.
315 TFLOPS
FP64 (double)
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности, а числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
5 TFLOPS
FP32 (float)
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
315 TFLOPS

Функции ИИ

AI Software Frameworks Supported by GPU
PyTorch, TensorFlow, JAX, ONNX Runtime, vLLM, SGLang, Triton, Kokkos, RAJA
BF16 Matrix
5033 TFLOPS
BF16 Matrix Sparse
10066 TFLOPS
FP16 Matrix
5033 TFLOPS
FP16 Matrix Sparse
10066 TFLOPS
FP8 Matrix
20133 TFLOPS
INT8 Matrix
5033 TOPS
INT8 Matrix Sparse
10066 TOPS
MXFP4
40265 TFLOPS
MXFP6
20133 TFLOPS
MXFP8
20133 TFLOPS

Межсоединения и масштабируемость

CPU-to-GPU Interconnect
256 GB/s
GPU Interconnect
UALink / UALoE
Scale-out Bandwidth
600 GB/s
Scale-up Bandwidth
3.6 TB/s

Другое

Virtualization
SR-IOV
Кэш L2
192 MB

Бенчмарки

FP32 (float)
315 TFLOPS

По сравнению с другими GPU

FP32 (float) / TFLOPS
315 +0%
91.375 -71%
80.086 -74.6%
66.228 -79%