NVIDIA L40G vs NVIDIA H100 SXM5 96 GB
Результат сравнения видеокарт
Ниже приведены результаты сравнения видеокарт
NVIDIA L40G
и
NVIDIA H100 SXM5 96 GB
по ключевым характеристикам производительности, а также энергопотреблению и многому другому.
Преимущества
- Выше Boost Частота: 2475MHz (2475MHz vs 1837MHz)
- Больше Блоки шейдинга: 18176 (18176 vs 16896)
- Новее Дата выпуска: October 2022 (October 2022 vs March 2022)
- Больше Объем памяти: 96GB (24GB vs 96GB)
- Выше Пропускная способность: 3350 GB/s (864.0 GB/s vs 3350 GB/s)
Общая информация
NVIDIA
Производитель
NVIDIA
October 2022
Дата выпуска
March 2022
Professional
Платформа
Professional
L40G
Название модели
H100 SXM5 96 GB
Tesla Ada
Поколение
Tesla Hopper
1005MHz
Базоввая частота
1665MHz
2475MHz
Boost Частота
1837MHz
PCIe 4.0 x16
Интерфейс шины
PCIe 5.0 x16
76,300 million
Транзисторы
80,000 million
142
RT ядра
-
568
Tensor ядра
?
Тензорные ядра — это специализированные процессоры, разработанные специально для глубокого обучения, обеспечивающие более высокую производительность обучения и вывода по сравнению с обучением FP32. Они позволяют выполнять быстрые вычисления в таких областях, как компьютерное зрение, обработка естественного языка, распознавание речи, преобразование текста в речь и персонализированные рекомендации. Два наиболее заметных применения тензорных ядер — это DLSS (Deep Learning Super Sampling) и AI Denoiser для снижения шума.
528
568
TMU
?
Блоки наложения текстур (TMU) служат компонентами графического процессора, которые способны вращать, масштабировать и искажать двоичные изображения, а затем размещать их в виде текстур на любой плоскости заданной трехмерной модели. Этот процесс называется отображением текстур.
528
TSMC
Производитель
TSMC
4 nm
Размер процесса
4 nm
Ada Lovelace
Архитектура
Hopper
Характеристики памяти
24GB
Объем памяти
96GB
GDDR6
Тип памяти
HBM3
384bit
Шина памяти
?
Ширина шины памяти обозначает количество бит данных, которые видеопамять может передать за один такт. Чем больше ширина шины, тем больший объем данных может быть передан мгновенно, что делает ее одним из важнейших параметров видеопамяти. Пропускная способность памяти рассчитывается как: Пропускная способность памяти = Частота памяти x Ширина шины памяти / 8. Следовательно, если частоты памяти одинаковы, ширина шины памяти будет определять размер пропускной способности памяти.
5120bit
2250MHz
Частота памяти
1313MHz
864.0 GB/s
Пропускная способность
?
Пропускная способность памяти — это скорость передачи данных между графическим чипом и видеопамятью. Он измеряется в байтах в секунду, и формула для его расчета: пропускная способность памяти = рабочая частота × ширина шины памяти / 8 бит.
3350 GB/s
Теоретическая производительность
475.2 GPixel/s
Пиксельный филлрейт
?
Скорость заполнения пикселей — это количество пикселей, которые графический процессор (GPU) может визуализировать в секунду, измеряется в мегапикселях/с (миллион пикселей в секунду) или GPixels/s (миллиард пикселей в секунду). Это наиболее часто используемый показатель для оценки производительности обработки пикселей видеокарты.
44.09 GPixel/s
1406 GTexel/s
Текстурный филлрейт
?
Скорость заполнения текстуры — это количество элементов карты текстур (текселей), которые графический процессор может сопоставить с пикселями за одну секунду.
969.9 GTexel/s
89.97 TFLOPS
FP16 (half)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности.
248.3 TFLOPS
1406 GFLOPS
FP64 (double)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности, а числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
31.04 TFLOPS
91.769
TFLOPS
FP32 (float)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
68.32
TFLOPS
Другое
142
Потоковый мультипроцессор (SM)
?
Несколько потоковых процессоров (SP) вместе с другими ресурсами образуют потоковый мультипроцессор (SM), который также называется основным ядром графического процессора. Эти дополнительные ресурсы включают в себя такие компоненты, как планировщики деформации, регистры и общую память. SM можно считать сердцем графического процессора, аналогично ядру ЦП, при этом регистры и общая память являются дефицитными ресурсами внутри SM.
132
18176
Блоки шейдинга
?
Самым фундаментальным процессором является потоковый процессор (SP), в котором выполняются определенные инструкции и задачи. Графические процессоры выполняют параллельные вычисления, что означает, что несколько процессоров SP работают одновременно для обработки задач.
16896
128 KB (per SM)
Кэш L1
256 KB (per SM)
48MB
Кэш L2
50MB
300W
TDP
700W
1.3
Версия Vulkan
?
Vulkan — это кроссплатформенный графический и вычислительный API от Khronos Group, предлагающий высокую производительность и низкую нагрузку на процессор. Он позволяет разработчикам напрямую управлять графическим процессором, снижает затраты на рендеринг и поддерживает многопоточные и многоядерные процессоры.
N/A
3.0
Версия OpenCL
3.0
4.6
OpenGL
N/A
8.9
CUDA
9.0
12 Ultimate (12_2)
DirectX
N/A
1x 16-pin
Разъемы питания
8-pin EPS
6.6
Шейдерная модель
N/A
192
ROP
?
Конвейер растровых операций (ROP) в первую очередь отвечает за расчеты освещения и отражений в играх, а также за управление такими эффектами, как сглаживание (AA), высокое разрешение, дым и огонь. Чем более требовательны к сглаживанию и световым эффектам в игре, тем выше требования к производительности для ROP; в противном случае это может привести к резкому падению частоты кадров.
24
700W
Требуемый блок питания
1100W
Бенчмарки
FP32 (float)
/ TFLOPS
L40G
91.769
+34%
H100 SXM5 96 GB
68.32