NVIDIA L40

NVIDIA L40

О видеокарте

Графический процессор NVIDIA L40 является мощным по производительности, восхваляя впечатляющие характеристики, что делает его надежным выбором для профессиональных приложений. С базовой частотой 735МГц и частотой ускорения 2490МГц, этот графический процессор обеспечивает быструю и эффективную производительность для требовательных задач. Массивные 48 ГБ памяти GDDR6 и частота памяти 2250МГц обеспечивают легкую обработку больших объемов данных и сложных симуляций. Одним из самых впечатляющих аспектов графического процессора L40 является его 18176 шейдерных блоков и 96 МБ кэш-памяти L2, что способствует его невероятной теоретической производительности в 90.52 TFLOPS. Этот уровень вычислительной мощности делает его отлично подходящим для задач, таких как глубокое обучение, научные моделирования и сложное 3D-отображение. Несмотря на его огромные возможности, графический процессор L40 управляется при разумном TDP в 300 Вт, что делает его относительно энергоэффективным для достигаемого уровня производительности. Тем не менее, стоит отметить, что необходимо обеспечить эффективное охлаждение, чтобы обеспечить оптимальную работу этого монстра. В целом, графический процессор NVIDIA L40 - это первоклассный выбор для профессионалов, которым требуется бескомпромиссная производительность для своей работы. Его сочетание высоких частот работы, щедрой памяти и впечатляющей теоретической производительности делают его универсальным и надежным вариантом для широкого спектра профессиональных приложений. Будь то научные исследования, создание контента или разработка искусственного интеллекта, графический процессор L40 обеспечит необходимую для выполнения работы производительность.

Общая информация

Производитель
NVIDIA
Платформа
Professional
Дата выпуска
October 2022
Название модели
L40
Поколение
Tesla Ada
Базоввая частота
735MHz
Boost Частота
2490MHz
Интерфейс шины
PCIe 4.0 x16
Транзисторы
76,300 million
RT ядра
142
Tensor ядра
?
Тензорные ядра — это специализированные процессоры, разработанные специально для глубокого обучения, обеспечивающие более высокую производительность обучения и вывода по сравнению с обучением FP32. Они позволяют выполнять быстрые вычисления в таких областях, как компьютерное зрение, обработка естественного языка, распознавание речи, преобразование текста в речь и персонализированные рекомендации. Два наиболее заметных применения тензорных ядер — это DLSS (Deep Learning Super Sampling) и AI Denoiser для снижения шума.
568
TMU
?
Блоки наложения текстур (TMU) служат компонентами графического процессора, которые способны вращать, масштабировать и искажать двоичные изображения, а затем размещать их в виде текстур на любой плоскости заданной трехмерной модели. Этот процесс называется отображением текстур.
568
Производитель
TSMC
Размер процесса
4 nm
Архитектура
Ada Lovelace

Характеристики памяти

Объем памяти
48GB
Тип памяти
GDDR6
Шина памяти
?
Ширина шины памяти обозначает количество бит данных, которые видеопамять может передать за один такт. Чем больше ширина шины, тем больший объем данных может быть передан мгновенно, что делает ее одним из важнейших параметров видеопамяти. Пропускная способность памяти рассчитывается как: Пропускная способность памяти = Частота памяти x Ширина шины памяти / 8. Следовательно, если частоты памяти одинаковы, ширина шины памяти будет определять размер пропускной способности памяти.
384bit
Частота памяти
2250MHz
Пропускная способность
?
Пропускная способность памяти — это скорость передачи данных между графическим чипом и видеопамятью. Он измеряется в байтах в секунду, и формула для его расчета: пропускная способность памяти = рабочая частота × ширина шины памяти / 8 бит.
864.0 GB/s

Теоретическая производительность

Пиксельный филлрейт
?
Скорость заполнения пикселей — это количество пикселей, которые графический процессор (GPU) может визуализировать в секунду, измеряется в мегапикселях/с (миллион пикселей в секунду) или GPixels/s (миллиард пикселей в секунду). Это наиболее часто используемый показатель для оценки производительности обработки пикселей видеокарты.
478.1 GPixel/s
Текстурный филлрейт
?
Скорость заполнения текстуры — это количество элементов карты текстур (текселей), которые графический процессор может сопоставить с пикселями за одну секунду.
1414 GTexel/s
FP16 (half)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности.
90.52 TFLOPS
FP64 (double)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности, а числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
1414 GFLOPS
FP32 (float)
?
Важным показателем для измерения производительности графического процессора являются возможности вычислений с плавающей запятой. Числа с плавающей запятой одинарной точности (32-битные) используются для обычных задач обработки мультимедиа и графики, а числа с плавающей запятой двойной точности (64-битные) необходимы для научных вычислений, требующих широкого числового диапазона и высокой точности. Числа с плавающей запятой половинной точности (16 бит) используются в таких приложениях, как машинное обучение, где допустима более низкая точность.
92.33 TFLOPS

Другое

Потоковый мультипроцессор (SM)
?
Несколько потоковых процессоров (SP) вместе с другими ресурсами образуют потоковый мультипроцессор (SM), который также называется основным ядром графического процессора. Эти дополнительные ресурсы включают в себя такие компоненты, как планировщики деформации, регистры и общую память. SM можно считать сердцем графического процессора, аналогично ядру ЦП, при этом регистры и общая память являются дефицитными ресурсами внутри SM.
142
Блоки шейдинга
?
Самым фундаментальным процессором является потоковый процессор (SP), в котором выполняются определенные инструкции и задачи. Графические процессоры выполняют параллельные вычисления, что означает, что несколько процессоров SP работают одновременно для обработки задач.
18176
Кэш L1
128 KB (per SM)
Кэш L2
96MB
TDP
300W
Версия Vulkan
?
Vulkan — это кроссплатформенный графический и вычислительный API от Khronos Group, предлагающий высокую производительность и низкую нагрузку на процессор. Он позволяет разработчикам напрямую управлять графическим процессором, снижает затраты на рендеринг и поддерживает многопоточные и многоядерные процессоры.
1.3
Версия OpenCL
3.0
OpenGL
4.6
DirectX
12 Ultimate (12_2)
CUDA
8.9
Разъемы питания
1x 16-pin
Шейдерная модель
6.6
ROP
?
Конвейер растровых операций (ROP) в первую очередь отвечает за расчеты освещения и отражений в играх, а также за управление такими эффектами, как сглаживание (AA), высокое разрешение, дым и огонь. Чем более требовательны к сглаживанию и световым эффектам в игре, тем выше требования к производительности для ROP; в противном случае это может привести к резкому падению частоты кадров.
192
Требуемый блок питания
700W

Бенчмарки

FP32 (float)
92.33 TFLOPS
Blender
4336
Vulkan
249130
OpenCL
292357

По сравнению с другими GPU

FP32 (float) / TFLOPS
166.668 +80.5%
L40
92.33
70.374 -23.8%
62.546 -32.3%
51.381 -44.4%
Blender
12832 +195.9%
L40
4336
1222 -71.8%
203 -95.3%
Vulkan
254749 +2.3%
L40
249130
83205 -66.6%
54373 -78.2%
30994 -87.6%
OpenCL
362331 +23.9%
L40
292357
91174 -68.8%
66179 -77.4%
45244 -84.5%