NVIDIA H100 PCIe 96 GB

NVIDIA H100 PCIe 96 GB

О видеокарте

GPU NVIDIA H100 PCIe с памятью 96 ГБ - это графический процессор профессионального уровня, разработанный для вычислений высокой производительности и данных интенсивных приложений. С базовой частотой ядра 1665 МГц и частотой ускорения 1837 МГц, этот GPU обеспечивает исключительную вычислительную мощность для требовательных рабочих нагрузок. Одной из особенностей GPU NVIDIA H100 является его огромная память HBM3 объемом 96 ГБ, что позволяет ему легко обрабатывать большие наборы данных и сложные симуляции. Высокая частота памяти 1313 МГц дополнительно улучшает способность GPU быстро получать доступ и обрабатывать большие объемы данных. С 16896 юнитами теневого рендеринга и кэшем L2 объемом 50 МБ, GPU H100 способен обрабатывать сложные графические и вычислительные задания с высокой точностью и эффективностью. Впечатляющая теоретическая производительность 62,08 TFLOPS гарантирует, что этот GPU легко справляется даже с самыми требовательными задачами. Потребляемая мощность TDP 700 Вт отражает высокие требования к питанию H100, делая его подходящим для рабочих станций и серверов с мощными системами охлаждения и подачи энергии. Однако это высокое энергопотребление оправдано выдающейся производительностью и возможностями этого GPU. В целом, GPU NVIDIA H100 PCIe 96 ГБ - это графическая карта мощного уровня, идеально подходящая для профессионалов и исследователей, работающих с крупномасштабными симуляциями, глубоким обучением и другими данных интенсивными задачами. Его сочетание высокой емкости памяти, вычислительной мощности и эффективной архитектуры делает его ценным активом для тех, кто требует высочайшей производительности для своей работы.

Общая информация

Производитель
NVIDIA
Платформа
Professional
Дата выпуска
March 2022
Название модели
H100 PCIe 96 GB
Поколение
Hopper
Базоввая частота
1665MHz
Boost Частота
1837MHz
Интерфейс шины
PCIe 5.0 x16
Транзисторы
80,000 million
Tensor ядра
?
Тензорные ядра — это специализированные процессоры, разработанные специально для глубокого обучения, обеспечивающие более высокую производительность обучения и вывода по сравнению с обучением FP32. Они позволяют выполнять быстрые вычисления в таких областях, как компьютерное зрение, обработка естественного языка, распознавание речи, преобразование текста в речь и персонализированные рекомендации. Два наиболее заметных применения тензорных ядер — это DLSS (Deep Learning Super Sampling) и AI Denoiser для снижения шума.
528
TMU
?
Блоки наложения текстур (TMU) служат компонентами графического процессора, которые способны вращать, масштабировать и искажать двоичные изображения, а затем размещать их в виде текстур на любой плоскости заданной трехмерной модели. Этот процесс называется отображением текстур.
528
Производитель
TSMC
Размер процесса
4 nm
Архитектура
Hopper

Характеристики памяти

Объем памяти
96GB
Тип памяти
HBM3
Шина памяти
?
Ширина шины памяти обозначает количество бит данных, которые видеопамять может передать за один такт. Чем больше ширина шины, тем больший объем данных может быть передан мгновенно, что делает ее одним из важнейших параметров видеопамяти. Пропускная способность памяти рассчитывается как: Пропускная способность памяти = Частота памяти x Ширина шины памяти / 8. Следовательно, если частоты памяти одинаковы, ширина шины памяти будет определять размер пропускной способности памяти.
5120bit
Частота памяти
1313MHz
Пропускная способность
?
Пропускная способность памяти — это скорость передачи данных между графическим чипом и видеопамятью. Он измеряется в байтах в секунду, и формула для его расчета: пропускная способность памяти = рабочая частота × ширина шины памяти / 8 бит.
1681 GB/s

Теоретическая производительность

Пиксельный филлрейт
?
Скорость заполнения пикселей — это количество пикселей, которые графический процессор (GPU) может визуализировать в секунду, измеряется в мегапикселях/с (миллион пикселей в секунду) или GPixels/s (миллиард пикселей в секунду). Это наиболее часто используемый показатель для оценки производительности обработки пикселей видеокарты.
44.09 GPixel/s
Текстурный филлрейт
?
Скорость заполнения текстуры — это количество элементов карты текстур (текселей), которые графический процессор может сопоставить с пикселями за одну секунду.
969.9 GTexel/s
FP16 (half)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности.
248.3 TFLOPS
FP64 (double)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности, а числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
31.04 TFLOPS
FP32 (float)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
63.322 TFLOPS

Другое

Потоковый мультипроцессор (SM)
?
Несколько потоковых процессоров (SP) вместе с другими ресурсами образуют потоковый мультипроцессор (SM), который также называется основным ядром графического процессора. Эти дополнительные ресурсы включают в себя такие компоненты, как планировщики деформации, регистры и общую память. SM можно считать сердцем графического процессора, аналогично ядру ЦП, при этом регистры и общая память являются дефицитными ресурсами внутри SM.
132
Блоки шейдинга
?
Самым фундаментальным процессором является потоковый процессор (SP), в котором выполняются определенные инструкции и задачи. Графические процессоры выполняют параллельные вычисления, что означает, что несколько процессоров SP работают одновременно для обработки задач.
16896
Кэш L1
256 KB (per SM)
Кэш L2
50MB
TDP
700W
Версия Vulkan
?
Vulkan — это кроссплатформенный графический и вычислительный API от Khronos Group, предлагающий высокую производительность и низкую нагрузку на процессор. Он позволяет разработчикам напрямую управлять графическим процессором, снижает затраты на рендеринг и поддерживает многопоточные и многоядерные процессоры.
N/A
Версия OpenCL
3.0
OpenGL
N/A
DirectX
N/A
CUDA
9.0
Разъемы питания
8-pin EPS
Шейдерная модель
N/A
ROP
?
Конвейер растровых операций (ROP) в первую очередь отвечает за расчеты освещения и отражений в играх, а также за управление такими эффектами, как сглаживание (AA), высокое разрешение, дым и огонь. Чем более требовательны к сглаживанию и световым эффектам в игре, тем выше требования к производительности для ROP; в противном случае это может привести к резкому падению частоты кадров.
24
Требуемый блок питания
1100W

Бенчмарки

FP32 (float)
63.322 TFLOPS

По сравнению с другими GPU

FP32 (float) / TFLOPS
91.769 +44.9%
80.928 +27.8%
52.326 -17.4%
46.913 -25.9%