AMD Instinct MI450X
AMD Instinct MI450X - серверный ускоритель с 288 GB HBM4 для стоек Helios
12 ноября 2026 года AMD представила Instinct MI450X - серверный GPU серии MI400 для обучения нейросетей и запуска уже обученных моделей. Ускоритель выполнен в виде модуля с прямым жидкостным охлаждением. Стойка AMD Helios вмещает 72 таких GPU.
У MI450X восемь стеков HBM4 общей ёмкостью 288 GB. У старшей MI455X - двенадцать стеков и 432 GB. Обе модели построены на архитектуре CDNA 5. AMD указывает для них одинаковую пиковую вычислительную производительность и пропускную способность памяти до 23,3 TB/s. О скорости самой MI450X в DeepSeek-R1 пока известно меньше: опубликованный при анонсе результат относится к MI455X. Разницу в ёмкости памяти уже можно оценить на примере весов и кеша модели.
Поместится ли DeepSeek-R1 на одном MI450X
Основная модель DeepSeek-R1 содержит около 671 млрд параметров без дополнительного модуля предсказания нескольких токенов (MTP). При обработке одного токена задействованы около 37 млрд параметров. Для следующего токена модель может выбрать других экспертов, поэтому при полной загрузке в память GPU нужны веса всех экспертов.
При идеальной упаковке по четыре бита на параметр одни веса займут около 335,5 GB, или 312,5 GiB. Это нижняя оценка без служебных данных. Даже если трактовать паспортные 288 GB как 288 GiB, для весов всё равно потребуется больше одного MI450X. У MI455X номинальной ёмкости хватает для самих весов при обеих трактовках единиц. Для запуска модели нужны также рабочие буферы и память под контекст.
Формат хранения заметно влияет на расчёт. В MXFP4 на каждые 32 четырёхбитных значения приходится один байт общего масштаба. Если упаковать все 671 млрд параметров в таком формате, получится около 356,5 GB, или 332 GiB. Фактический размер зависит в том числе от того, какие слои конкретная реализация сохраняет с более высокой точностью.
Контекст тоже занимает память. Например, для DeepSeek-R1 с компактным MLA-кешем в BF16 на 131 072 токена одного запроса приходится около 9,2 GB данных кеша. Это расчёт для 61 слоя без накладных расходов программы. По нему можно оценить порядок затрат на длинный диалог, но для определения числа одновременных запросов нужен замер на работающем сервере.
Когда достаточно 288 GB
- У модели с 70 млрд параметров веса в BF16 занимают около 140 GB. На одном MI450X остаётся место для кеша и рабочих буферов. Если его хватает при нужной длине контекста, остальные GPU могут обслуживать отдельные копии модели.
- При большом числе длинных диалогов сервер может исчерпать память для кеша. В этом случае дополнительная HBM4 у MI455X позволяет держать больше запросов в обработке одновременно.
- Когда модель с кешем помещается на одном GPU, её проще развернуть: для этой копии не нужен обмен данными между ускорителями. Максимальная скорость под нагрузкой - отдельный вопрос. Распределение вычислений между несколькими GPU может быть выгодно, даже когда памяти одного ускорителя достаточно.
Что показывают тесты DeepSeek-R1
В сценарии MLPerf Inference Offline система получает все запросы сразу. Тест измеряет суммарную скорость генерации выходных токенов. Для MI455X лаборатория AMD опубликовала результат сразу в пересчёте на один GPU. Для систем NVIDIA среднее в последнем столбце рассчитано делением результата системы на число ускорителей.
| Система | Источник результата | Число GPU | Offline, токенов/с на систему | Offline, токенов/с на GPU |
|---|---|---|---|---|
| AMD Helios с Instinct MI450X | Нет данных на 18 ноября 2026 года | - | - | - |
| AMD Helios с Instinct MI455X | Внутренний тест AMD | Не указано | - | 21 333 |
| NVIDIA Vera Rubin NVL72 | MLPerf v6.1 Closed, Preview | 72 | 1 183 327 | 16 435 |
| Nebius, NVIDIA GB300 NVL72 | MLPerf v6.1 Closed | 72 | 689 961 | 9 583 |
| Nebius, NVIDIA HGX B300 | MLPerf v6.1 Closed | 8 | 69 655 | 8 707 |
AMD сопоставила собственные 21 333 токена/с на MI455X с результатом Vera Rubin NVL72 из категории Preview. Разница между опубликованными значениями - около 30%. Замер AMD не проходил проверку MLCommons. В анонсе также не указаны число задействованных GPU и числовой формат вычислений. По этим данным нельзя установить, каким было бы преимущество при одинаковых условиях.
Для Vera Rubin NVL72 есть и результаты с ограничениями на задержку. В MLPerf Server стойка из 72 GPU показала 1 175 890 токенов/с, в Interactive - 652 750 токенов/с. В Interactive требования строже: до 1,5 секунды на первый токен и до 15 ms на каждый следующий. Это пороги теста. В анонсе AMD для MI450X и MI455X сопоставимых результатов Server и Interactive нет.
Как выбрать между MI450X и MI455X
Практическое преимущество 432 GB проявится, если дополнительная память позволит разместить копию модели на меньшем числе GPU или обслужить больше запросов при требуемой задержке. Стоимость миллиона выходных токенов имеет смысл сравнивать для всей конфигурации при одинаковой модели и нагрузке. В анонсе AMD цены Helios не указаны, поэтому определить более выгодную конфигурацию по опубликованным результатам пока нельзя.
Сравнение GPU
Сравнить Instinct MI450X с другими GPUs
Общая информация
Характеристики памяти
Дисплей и мультимедиа
Теоретическая производительность
Функции ИИ
Межсоединения и масштабируемость
Другое
Бенчмарки
По сравнению с другими GPU
Поделиться в социальных сетях
Или разместите ссылку на нас
<a href="https://cputronic.com/ru/gpu/amd-instinct-mi450x" target="_blank">AMD Instinct MI450X</a>