Главная / GPU Сравнение / AMD Radeon Instinct MI308X или NVIDIA H200 NVL: Что лучше?

AMD Radeon Instinct MI308X

vs

NVIDIA H200 NVL

Результат сравнения видеокарт

Ниже приведены результаты сравнения видеокарт AMD Radeon Instinct MI308X и NVIDIA H200 NVL по ключевым характеристикам производительности, а также энергопотреблению и многому другому.

Преимущества

AMD Radeon Instinct MI308X

Выше Boost Частота: 2100 MHz (2100 MHz vs 1785 MHz)
Больше Объем памяти: 192GB (192GB vs 141GB)
Выше Пропускная способность: 10.3TB/s (10.3TB/s vs 3.36TB/s)
Больше Блоки шейдинга: 19456 (19456 vs 16896)

NVIDIA H200 NVL

Новее Дата выпуска: November 2024 (December 2023 vs November 2024)

Общая информация

AMD

Производитель

NVIDIA

December 2023

Дата выпуска

November 2024

Desktop

Платформа

Desktop

Radeon Instinct MI308X

Название модели

H200 NVL

Radeon Instinct

Поколение

Tesla Hopper(Hxx)

1000 MHz

Базоввая частота

1365 MHz

2100 MHz

Boost Частота

1785 MHz

PCIe 5.0 x16

Интерфейс шины

PCIe 5.0 x16

153 billion

Транзисторы

80 billion

304

Вычислительные юниты

1216

Tensor ядра

Тензорные ядра — это специализированные процессоры, разработанные специально для глубокого обучения, обеспечивающие более высокую производительность обучения и вывода по сравнению с обучением FP32. Они позволяют выполнять быстрые вычисления в таких областях, как компьютерное зрение, обработка естественного языка, распознавание речи, преобразование текста в речь и персонализированные рекомендации. Два наиболее заметных применения тензорных ядер — это DLSS (Deep Learning Super Sampling) и AI Denoiser для снижения шума.

528

1216

TMU

Блоки наложения текстур (TMU) служат компонентами графического процессора, которые способны вращать, масштабировать и искажать двоичные изображения, а затем размещать их в виде текстур на любой плоскости заданной трехмерной модели. Этот процесс называется отображением текстур.

528

TSMC

Производитель

TSMC

5 nm

Размер процесса

5 nm

CDNA 3.0

Архитектура

Hopper

Характеристики памяти

192GB

Объем памяти

141GB

HBM3

Тип памяти

HBM3e

8192bit

Шина памяти

Ширина шины памяти обозначает количество бит данных, которые видеопамять может передать за один такт. Чем больше ширина шины, тем больший объем данных может быть передан мгновенно, что делает ее одним из важнейших параметров видеопамяти. Пропускная способность памяти рассчитывается как: Пропускная способность памяти = Частота памяти x Ширина шины памяти / 8. Следовательно, если частоты памяти одинаковы, ширина шины памяти будет определять размер пропускной способности памяти.

5120bit

2525 MHz

Частота памяти

1313 MHz

10.3TB/s

Пропускная способность

Пропускная способность памяти — это скорость передачи данных между графическим чипом и видеопамятью. Он измеряется в байтах в секунду, и формула для его расчета: пропускная способность памяти = рабочая частота × ширина шины памяти / 8 бит.

3.36TB/s

Дисплей и мультимедиа

No outputs

Выходы

No outputs

Теоретическая производительность

Пиксельный филлрейт

Скорость заполнения пикселей — это количество пикселей, которые графический процессор (GPU) может визуализировать в секунду, измеряется в мегапикселях/с (миллион пикселей в секунду) или GPixels/s (миллиард пикселей в секунду). Это наиболее часто используемый показатель для оценки производительности обработки пикселей видеокарты.

42.84 GPixel/s

2554 GTexel/s

Текстурный филлрейт

Скорость заполнения текстуры — это количество элементов карты текстур (текселей), которые графический процессор может сопоставить с пикселями за одну секунду.

942.5 GTexel/s

653.7 TFLOPS

FP16 (half)

Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности.

241.3 TFLOPS

81.72 TFLOPS

FP64 (double)

Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности, а числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.

30.16 TFLOPS

83.354 TFLOPS

FP32 (float)

Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.

59.114 TFLOPS

Другое

Потоковый мультипроцессор (SM)

Несколько потоковых процессоров (SP) вместе с другими ресурсами образуют потоковый мультипроцессор (SM), который также называется основным ядром графического процессора. Эти дополнительные ресурсы включают в себя такие компоненты, как планировщики деформации, регистры и общую память. SM можно считать сердцем графического процессора, аналогично ядру ЦП, при этом регистры и общая память являются дефицитными ресурсами внутри SM.

132

19456

Блоки шейдинга

Самым фундаментальным процессором является потоковый процессор (SP), в котором выполняются определенные инструкции и задачи. Графические процессоры выполняют параллельные вычисления, что означает, что несколько процессоров SP работают одновременно для обработки задач.

16896

16 KB (per CU)

Кэш L1

256 KB (per SM)

16 MB

Кэш L2

50 MB

750W

TDP

600W

3.0

Версия OpenCL

3.0

CUDA

9.0

None

Разъемы питания

8-pin EPS

ROP

Конвейер растровых операций (ROP) в первую очередь отвечает за расчеты освещения и отражений в играх, а также за управление такими эффектами, как сглаживание (AA), высокое разрешение, дым и огонь. Чем более требовательны к сглаживанию и световым эффектам в игре, тем выше требования к производительности для ROP; в противном случае это может привести к резкому падению частоты кадров.

1150 W

Требуемый блок питания

1000 W

Бенчмарки

FP32 (float) / TFLOPS

Radeon Instinct MI308X

83.354 +41%