NVIDIA L40 vs NVIDIA H100 PCIe 80 GB
Результат сравнения видеокарт
Ниже приведены результаты сравнения видеокарт
NVIDIA L40
и
NVIDIA H100 PCIe 80 GB
по ключевым характеристикам производительности, а также энергопотреблению и многому другому.
Преимущества
- Выше Boost Частота: 2490MHz (2490MHz vs 1755MHz)
- Больше Блоки шейдинга: 18176 (18176 vs 14592)
- Новее Дата выпуска: October 2022 (October 2022 vs March 2022)
- Больше Объем памяти: 80GB (48GB vs 80GB)
- Выше Пропускная способность: 2039 GB/s (864.0 GB/s vs 2039 GB/s)
Общая информация
NVIDIA
Производитель
NVIDIA
October 2022
Дата выпуска
March 2022
Professional
Платформа
Professional
L40
Название модели
H100 PCIe 80 GB
Tesla Ada
Поколение
Hopper
735MHz
Базоввая частота
1095MHz
2490MHz
Boost Частота
1755MHz
PCIe 4.0 x16
Интерфейс шины
PCIe 5.0 x16
76,300 million
Транзисторы
80,000 million
142
RT ядра
-
568
Tensor ядра
?
Тензорные ядра — это специализированные процессоры, разработанные специально для глубокого обучения, обеспечивающие более высокую производительность обучения и вывода по сравнению с обучением FP32. Они позволяют выполнять быстрые вычисления в таких областях, как компьютерное зрение, обработка естественного языка, распознавание речи, преобразование текста в речь и персонализированные рекомендации. Два наиболее заметных применения тензорных ядер — это DLSS (Deep Learning Super Sampling) и AI Denoiser для снижения шума.
456
568
TMU
?
Блоки наложения текстур (TMU) служат компонентами графического процессора, которые способны вращать, масштабировать и искажать двоичные изображения, а затем размещать их в виде текстур на любой плоскости заданной трехмерной модели. Этот процесс называется отображением текстур.
456
TSMC
Производитель
TSMC
4 nm
Размер процесса
4 nm
Ada Lovelace
Архитектура
Hopper
Характеристики памяти
48GB
Объем памяти
80GB
GDDR6
Тип памяти
HBM2e
384bit
Шина памяти
?
Ширина шины памяти обозначает количество бит данных, которые видеопамять может передать за один такт. Чем больше ширина шины, тем больший объем данных может быть передан мгновенно, что делает ее одним из важнейших параметров видеопамяти. Пропускная способность памяти рассчитывается как: Пропускная способность памяти = Частота памяти x Ширина шины памяти / 8. Следовательно, если частоты памяти одинаковы, ширина шины памяти будет определять размер пропускной способности памяти.
5120bit
2250MHz
Частота памяти
1593MHz
864.0 GB/s
Пропускная способность
?
Пропускная способность памяти — это скорость передачи данных между графическим чипом и видеопамятью. Он измеряется в байтах в секунду, и формула для его расчета: пропускная способность памяти = рабочая частота × ширина шины памяти / 8 бит.
2039 GB/s
Теоретическая производительность
478.1 GPixel/s
Пиксельный филлрейт
?
Скорость заполнения пикселей — это количество пикселей, которые графический процессор (GPU) может визуализировать в секунду, измеряется в мегапикселях/с (миллион пикселей в секунду) или GPixels/s (миллиард пикселей в секунду). Это наиболее часто используемый показатель для оценки производительности обработки пикселей видеокарты.
42.12 GPixel/s
1414 GTexel/s
Текстурный филлрейт
?
Скорость заполнения текстуры — это количество элементов карты текстур (текселей), которые графический процессор может сопоставить с пикселями за одну секунду.
800.3 GTexel/s
90.52 TFLOPS
FP16 (half)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности.
1513 TFLOPS
1414 GFLOPS
FP64 (double)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности, а числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
25.61 TFLOPS
92.33
TFLOPS
FP32 (float)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
50.196
TFLOPS
Другое
142
Потоковый мультипроцессор (SM)
?
Несколько потоковых процессоров (SP) вместе с другими ресурсами образуют потоковый мультипроцессор (SM), который также называется основным ядром графического процессора. Эти дополнительные ресурсы включают в себя такие компоненты, как планировщики деформации, регистры и общую память. SM можно считать сердцем графического процессора, аналогично ядру ЦП, при этом регистры и общая память являются дефицитными ресурсами внутри SM.
114
18176
Блоки шейдинга
?
Самым фундаментальным процессором является потоковый процессор (SP), в котором выполняются определенные инструкции и задачи. Графические процессоры выполняют параллельные вычисления, что означает, что несколько процессоров SP работают одновременно для обработки задач.
14592
128 KB (per SM)
Кэш L1
256 KB (per SM)
96MB
Кэш L2
50MB
300W
TDP
350W
1.3
Версия Vulkan
?
Vulkan — это кроссплатформенный графический и вычислительный API от Khronos Group, предлагающий высокую производительность и низкую нагрузку на процессор. Он позволяет разработчикам напрямую управлять графическим процессором, снижает затраты на рендеринг и поддерживает многопоточные и многоядерные процессоры.
N/A
3.0
Версия OpenCL
3.0
4.6
OpenGL
N/A
12 Ultimate (12_2)
DirectX
N/A
8.9
CUDA
9.0
1x 16-pin
Разъемы питания
1x 16-pin
6.6
Шейдерная модель
N/A
192
ROP
?
Конвейер растровых операций (ROP) в первую очередь отвечает за расчеты освещения и отражений в играх, а также за управление такими эффектами, как сглаживание (AA), высокое разрешение, дым и огонь. Чем более требовательны к сглаживанию и световым эффектам в игре, тем выше требования к производительности для ROP; в противном случае это может привести к резкому падению частоты кадров.
24
700W
Требуемый блок питания
750W
Бенчмарки
FP32 (float)
/ TFLOPS
L40
92.33
+84%
H100 PCIe 80 GB
50.196