NVIDIA H100 SXM5

NVIDIA H100 SXM5

О видеокарте

Видеокарта NVIDIA H100 SXM5 - это настоящая мощь в области графических вычислений, специально разработанная для профессионального использования. С базовой частотой ядра 1590 МГц и частотой ускорения до 1980 МГц эта видеокарта обеспечивает впечатляющую производительность при выполнении сложных задач. Объем памяти HBM3 составляет 80 ГБ, а частота памяти - 1313 МГц, что гарантирует, что H100 SXM5 справляется с большими наборами данных и сложными вычислениями с легкостью. Одной из самых впечатляющих особенностей H100 SXM5 является наличие 16896 шейдерных блоков, обеспечивающих высокопараллельную обработку и эффективную работу с графикой и вычислениями. Кроме того, благодаря 50 МБ кэш-памяти L2 этот GPU способен обрабатывать большие объемы данных с низкой задержкой, что дополнительно повышает его производительность. Что касается потребления энергии, H100 SXM5 имеет TDP 700 Вт, что является достаточно высоким показателем, однако это ожидаемо учитывая его высокие производительные возможности. С теоретической производительностью 66,91 TFLOPS эта видеокарта хорошо подходит для профессиональных приложений, таких как искусственный интеллект, глубокое обучение, научные симуляции и высокопроизводительные вычисления. В целом, видеокарта NVIDIA H100 SXM5 представляет собой передовое решение для профессионалов и организаций, нуждающихся в передовой графике и производительности. Ее впечатляющие характеристики и производительные возможности делают ее отличным выбором для тех, кто требует максимальной вычислительной мощности для своих рабочих нагрузок.

Общая информация

Производитель
NVIDIA
Платформа
Professional
Дата выпуска
March 2022
Название модели
H100 SXM5
Поколение
Tesla Hopper
Базоввая частота
1590MHz
Boost Частота
1980MHz
Интерфейс шины
PCIe 5.0 x16
Транзисторы
80,000 million
Tensor ядра
?
Тензорные ядра — это специализированные процессоры, разработанные специально для глубокого обучения, обеспечивающие более высокую производительность обучения и вывода по сравнению с обучением FP32. Они позволяют выполнять быстрые вычисления в таких областях, как компьютерное зрение, обработка естественного языка, распознавание речи, преобразование текста в речь и персонализированные рекомендации. Два наиболее заметных применения тензорных ядер — это DLSS (Deep Learning Super Sampling) и AI Denoiser для снижения шума.
528
TMU
?
Блоки наложения текстур (TMU) служат компонентами графического процессора, которые способны вращать, масштабировать и искажать двоичные изображения, а затем размещать их в виде текстур на любой плоскости заданной трехмерной модели. Этот процесс называется отображением текстур.
528
Производитель
TSMC
Размер процесса
4 nm
Архитектура
Hopper

Характеристики памяти

Объем памяти
80GB
Тип памяти
HBM3
Шина памяти
?
Ширина шины памяти обозначает количество бит данных, которые видеопамять может передать за один такт. Чем больше ширина шины, тем больший объем данных может быть передан мгновенно, что делает ее одним из важнейших параметров видеопамяти. Пропускная способность памяти рассчитывается как: Пропускная способность памяти = Частота памяти x Ширина шины памяти / 8. Следовательно, если частоты памяти одинаковы, ширина шины памяти будет определять размер пропускной способности памяти.
5120bit
Частота памяти
1313MHz
Пропускная способность
?
Пропускная способность памяти — это скорость передачи данных между графическим чипом и видеопамятью. Он измеряется в байтах в секунду, и формула для его расчета: пропускная способность памяти = рабочая частота × ширина шины памяти / 8 бит.
3350 GB/s

Теоретическая производительность

Пиксельный филлрейт
?
Скорость заполнения пикселей — это количество пикселей, которые графический процессор (GPU) может визуализировать в секунду, измеряется в мегапикселях/с (миллион пикселей в секунду) или GPixels/s (миллиард пикселей в секунду). Это наиболее часто используемый показатель для оценки производительности обработки пикселей видеокарты.
47.52 GPixel/s
Текстурный филлрейт
?
Скорость заполнения текстуры — это количество элементов карты текстур (текселей), которые графический процессор может сопоставить с пикселями за одну секунду.
1045 GTexel/s
FP16 (half)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности.
267.6 TFLOPS
FP64 (double)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности, а числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
33.45 TFLOPS
FP32 (float)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
68.248 TFLOPS

Другое

Потоковый мультипроцессор (SM)
?
Несколько потоковых процессоров (SP) вместе с другими ресурсами образуют потоковый мультипроцессор (SM), который также называется основным ядром графического процессора. Эти дополнительные ресурсы включают в себя такие компоненты, как планировщики деформации, регистры и общую память. SM можно считать сердцем графического процессора, аналогично ядру ЦП, при этом регистры и общая память являются дефицитными ресурсами внутри SM.
132
Блоки шейдинга
?
Самым фундаментальным процессором является потоковый процессор (SP), в котором выполняются определенные инструкции и задачи. Графические процессоры выполняют параллельные вычисления, что означает, что несколько процессоров SP работают одновременно для обработки задач.
16896
Кэш L1
256 KB (per SM)
Кэш L2
50MB
TDP
700W
Версия Vulkan
?
Vulkan — это кроссплатформенный графический и вычислительный API от Khronos Group, предлагающий высокую производительность и низкую нагрузку на процессор. Он позволяет разработчикам напрямую управлять графическим процессором, снижает затраты на рендеринг и поддерживает многопоточные и многоядерные процессоры.
N/A
Версия OpenCL
3.0
OpenGL
N/A
DirectX
N/A
CUDA
9.0
Разъемы питания
8-pin EPS
Шейдерная модель
N/A
ROP
?
Конвейер растровых операций (ROP) в первую очередь отвечает за расчеты освещения и отражений в играх, а также за управление такими эффектами, как сглаживание (AA), высокое разрешение, дым и огонь. Чем более требовательны к сглаживанию и световым эффектам в игре, тем выше требования к производительности для ROP; в противном случае это может привести к резкому падению частоты кадров.
24
Требуемый блок питания
1100W

Бенчмарки

FP32 (float)
68.248 TFLOPS

По сравнению с другими GPU

FP32 (float) / TFLOPS
125.052 +83.2%
89.778 +31.5%
68.248
60.838 -10.9%
50.45 -26.1%