AMD Instinct MI450X

AMD Instinct MI450X
Обзор видеокарты AMD Instinct MI450X

AMD Instinct MI450X - серверный ускоритель с 288 GB HBM4 для стоек Helios

12 ноября 2026 года AMD представила Instinct MI450X - серверный GPU серии MI400 для обучения нейросетей и запуска уже обученных моделей. Ускоритель выполнен в виде модуля с прямым жидкостным охлаждением. Стойка AMD Helios вмещает 72 таких GPU.

У MI450X восемь стеков HBM4 общей ёмкостью 288 GB. У старшей MI455X - двенадцать стеков и 432 GB. Обе модели построены на архитектуре CDNA 5. AMD указывает для них одинаковую пиковую вычислительную производительность и пропускную способность памяти до 23,3 TB/s. О скорости самой MI450X в DeepSeek-R1 пока известно меньше: опубликованный при анонсе результат относится к MI455X. Разницу в ёмкости памяти уже можно оценить на примере весов и кеша модели.

Поместится ли DeepSeek-R1 на одном MI450X

Основная модель DeepSeek-R1 содержит около 671 млрд параметров без дополнительного модуля предсказания нескольких токенов (MTP). При обработке одного токена задействованы около 37 млрд параметров. Для следующего токена модель может выбрать других экспертов, поэтому при полной загрузке в память GPU нужны веса всех экспертов.

При идеальной упаковке по четыре бита на параметр одни веса займут около 335,5 GB, или 312,5 GiB. Это нижняя оценка без служебных данных. Даже если трактовать паспортные 288 GB как 288 GiB, для весов всё равно потребуется больше одного MI450X. У MI455X номинальной ёмкости хватает для самих весов при обеих трактовках единиц. Для запуска модели нужны также рабочие буферы и память под контекст.

Формат хранения заметно влияет на расчёт. В MXFP4 на каждые 32 четырёхбитных значения приходится один байт общего масштаба. Если упаковать все 671 млрд параметров в таком формате, получится около 356,5 GB, или 332 GiB. Фактический размер зависит в том числе от того, какие слои конкретная реализация сохраняет с более высокой точностью.

Контекст тоже занимает память. Например, для DeepSeek-R1 с компактным MLA-кешем в BF16 на 131 072 токена одного запроса приходится около 9,2 GB данных кеша. Это расчёт для 61 слоя без накладных расходов программы. По нему можно оценить порядок затрат на длинный диалог, но для определения числа одновременных запросов нужен замер на работающем сервере.

Когда достаточно 288 GB

  • У модели с 70 млрд параметров веса в BF16 занимают около 140 GB. На одном MI450X остаётся место для кеша и рабочих буферов. Если его хватает при нужной длине контекста, остальные GPU могут обслуживать отдельные копии модели.
  • При большом числе длинных диалогов сервер может исчерпать память для кеша. В этом случае дополнительная HBM4 у MI455X позволяет держать больше запросов в обработке одновременно.
  • Когда модель с кешем помещается на одном GPU, её проще развернуть: для этой копии не нужен обмен данными между ускорителями. Максимальная скорость под нагрузкой - отдельный вопрос. Распределение вычислений между несколькими GPU может быть выгодно, даже когда памяти одного ускорителя достаточно.

Что показывают тесты DeepSeek-R1

В сценарии MLPerf Inference Offline система получает все запросы сразу. Тест измеряет суммарную скорость генерации выходных токенов. Для MI455X лаборатория AMD опубликовала результат сразу в пересчёте на один GPU. Для систем NVIDIA среднее в последнем столбце рассчитано делением результата системы на число ускорителей.

Система Источник результата Число GPU Offline, токенов/с на систему Offline, токенов/с на GPU
AMD Helios с Instinct MI450X Нет данных на 18 ноября 2026 года - - -
AMD Helios с Instinct MI455X Внутренний тест AMD Не указано - 21 333
NVIDIA Vera Rubin NVL72 MLPerf v6.1 Closed, Preview 72 1 183 327 16 435
Nebius, NVIDIA GB300 NVL72 MLPerf v6.1 Closed 72 689 961 9 583
Nebius, NVIDIA HGX B300 MLPerf v6.1 Closed 8 69 655 8 707

AMD сопоставила собственные 21 333 токена/с на MI455X с результатом Vera Rubin NVL72 из категории Preview. Разница между опубликованными значениями - около 30%. Замер AMD не проходил проверку MLCommons. В анонсе также не указаны число задействованных GPU и числовой формат вычислений. По этим данным нельзя установить, каким было бы преимущество при одинаковых условиях.

Для Vera Rubin NVL72 есть и результаты с ограничениями на задержку. В MLPerf Server стойка из 72 GPU показала 1 175 890 токенов/с, в Interactive - 652 750 токенов/с. В Interactive требования строже: до 1,5 секунды на первый токен и до 15 ms на каждый следующий. Это пороги теста. В анонсе AMD для MI450X и MI455X сопоставимых результатов Server и Interactive нет.

Как выбрать между MI450X и MI455X

Практическое преимущество 432 GB проявится, если дополнительная память позволит разместить копию модели на меньшем числе GPU или обслужить больше запросов при требуемой задержке. Стоимость миллиона выходных токенов имеет смысл сравнивать для всей конфигурации при одинаковой модели и нагрузке. В анонсе AMD цены Helios не указаны, поэтому определить более выгодную конфигурацию по опубликованным результатам пока нельзя.

Сравнение GPU

Сравнить Instinct MI450X с другими GPUs

Пожалуйста, выберите GPU из выпадающего списка.

Общая информация

Производитель
AMD
Платформа
Professional
Дата выпуска
November 2026
Accelerated Compute Dies (XCD)
8
Cooling
Direct Liquid Cooling
Form Factor
EAM
GPU Lithography
TSMC 2nm / 3nm FinFET
I/O Dies (IOD)
2
Название модели
AMD Instinct MI450X
Поколение
Instinct MI400 Series
Boost Частота
2400 MHz
Транзисторы
320 billion
Вычислительные юниты
256
Производитель
TSMC
Размер процесса
2nm / 3nm FinFET
Архитектура
CDNA 5

Характеристики памяти

HBM Memory Stacks
8
Memory ECC
Yes
Memory Partitions
4
Объем памяти
288 GB
Тип памяти
HBM4
Пропускная способность
Пропускная способность памяти — это скорость передачи данных между графическим чипом и видеопамятью. Он измеряется в байтах в секунду, и формула для его расчета: пропускная способность памяти = рабочая частота × ширина шины памяти / 8 бит.
23.3 TB/s

Дисплей и мультимедиа

AV1 Encode/Decode
AV1 decode (4 shared engines)
H.264 Hardware Encode/Decode
H.264 decode (4 shared engines)
H.265 HEVC Hardware Encode/Decode
H.265 decode (4 shared engines)
JPEG/MJPEG Codec Cores
40
Video Decoder Engines
4 shared engines (H.264, H.265, VP9, AV1)

Теоретическая производительность

FP32 Matrix
315 TFLOPS
FP32 Vector
315 TFLOPS
FP16 (half)
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности.
315 TFLOPS
FP64 (double)
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности, а числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
5 TFLOPS
FP32 (float)
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
315 TFLOPS

Функции ИИ

AI Software Frameworks Supported by GPU
PyTorch, TensorFlow, JAX, ONNX Runtime, SGLang, Triton, Kokkos, RAJA
BF16 Matrix
5033 TFLOPS
BF16 Matrix Sparse
10066 TFLOPS
FP16 Matrix
5033 TFLOPS
FP16 Matrix Sparse
10066 TFLOPS
FP8 Matrix
20133 TFLOPS
INT8 Matrix
5033 TOPS
INT8 Matrix Sparse
10066 TOPS
MXFP4
40265 TFLOPS
MXFP6
20133 TFLOPS
MXFP8
20133 TFLOPS

Межсоединения и масштабируемость

CPU-to-GPU Interconnect
256 GB/s
GPU Interconnect
UALink / UALoE
Scale-out Bandwidth
600 GB/s
Scale-up Bandwidth
3.6 TB/s

Другое

Virtualization
SR-IOV
Кэш L2
192 MB

Бенчмарки

FP32 (float)
315 TFLOPS

По сравнению с другими GPU

FP32 (float) / TFLOPS
115.15 -63.4%
91.375 -71%
80.086 -74.6%
66.228 -79%