NVIDIA L40

NVIDIA L40

Über GPU

Die NVIDIA L40 GPU ist ein Leistungspaket, das mit beeindruckenden Spezifikationen punktet und somit eine solide Wahl für professionelle Anwendungen ist. Mit einer Basistaktgeschwindigkeit von 735MHz und einer Boost-Taktgeschwindigkeit von 2490MHz liefert diese GPU schnelle und effiziente Leistung für anspruchsvolle Aufgaben. Die große 48GB GDDR6-Speicher und ein Speichertakt von 2250MHz sorgen dafür, dass große Datensätze und komplexe Simulationen mühelos bewältigt werden können. Eines der beeindruckendsten Merkmale der L40 GPU sind ihre 18176 Shader-Einheiten und 96MB L2-Cache, die zu ihrer unglaublichen theoretischen Leistung von 90,52 TFLOPS beitragen. Diese Verarbeitungsleistung macht sie geeignet für Aufgaben wie Deep Learning, wissenschaftliche Simulationen und komplexe 3D-Rendering. Trotz ihrer immensen Fähigkeiten schafft es die L40 GPU, mit einer angemessenen TDP von 300W zu arbeiten, was sie im Verhältnis zur Leistung relativ stromeffizient macht. Es ist jedoch erwähnenswert, dass eine leistungsfähige Kühlung notwendig sein wird, um dieses Kraftpaket optimal am Laufen zu halten. Insgesamt ist die NVIDIA L40 GPU eine erstklassige Wahl für professionelle Anwender, die kompromisslose Leistung für ihre Arbeit benötigen. Ihre Kombination aus hohen Taktraten, großzügigem Speicher und beeindruckender theoretischer Leistung macht sie zu einer vielseitigen und zuverlässigen Option für eine Vielzahl von professionellen Anwendungen. Ob für wissenschaftliche Forschung, Content-Erstellung oder KI-Entwicklung, die L40 GPU liefert sicherlich die Leistung, die für die Erledigung der Aufgaben benötigt wird.

Basic

Markenname
NVIDIA
Plattform
Professional
Erscheinungsdatum
October 2022
Modellname
L40
Generation
Tesla Ada
Basis-Takt
735MHz
Boost-Takt
2490MHz
Bus-Schnittstelle
PCIe 4.0 x16
Transistoren
76,300 million
RT-Kerne
142
Tensor-Kerne
?
Tensor-Kerne sind spezialisierte Verarbeitungseinheiten, die speziell für das Deep Learning entwickelt wurden und im Vergleich zum FP32-Training eine höhere Trainings- und Inferenzleistung bieten. Sie ermöglichen schnelle Berechnungen in Bereichen wie Computer Vision, Natural Language Processing, Spracherkennung, Text-zu-Sprache-Konvertierung und personalisierteEmpfehlungen. Die beiden bekanntesten Anwendungen von Tensor-Kernen sind DLSS (Deep Learning Super Sampling) und AI Denoiser zur Rauschreduzierung.
568
TMUs
?
Textur-Mapping-Einheiten (TMUs) sind Komponenten der GPU, die in der Lage sind, Binärbilder zu drehen, zu skalieren und zu verzerren und sie dann als Texturen auf jede Ebene eines gegebenen 3D-Modells zu platzieren. Dieser Prozess wird als Textur-Mapping bezeichnet.
568
Foundry
TSMC
Prozessgröße
4 nm
Architektur
Ada Lovelace

Speicherspezifikationen

Speichergröße
48GB
Speichertyp
GDDR6
Speicherbus
?
Der Speicherbus bezieht sich auf die Anzahl der Bits, die das Videomemory innerhalb eines einzelnen Taktzyklus übertragen kann. Je größer die Busbreite, desto mehr Daten können gleichzeitig übertragen werden, was sie zu einem der entscheidenden Parameter des Videomemory macht. Die Speicherbandbreite wird wie folgt berechnet: Speicherbandbreite = Speicherfrequenz x Speicherbusbreite / 8. Wenn also die Speicherfrequenzen ähnlich sind, bestimmt die Speicherbusbreite die Größe der Speicherbandbreite.
384bit
Speichertakt
2250MHz
Bandbreite
?
Die Speicherbandbreite bezieht sich auf die Datenübertragungsrate zwischen dem Grafikchip und dem Videomemory. Sie wird in Bytes pro Sekunde gemessen, und die Formel zur Berechnung lautet: Speicherbandbreite = Arbeitsfrequenz × Speicherbusbreite / 8 Bit.
864.0 GB/s

Theoretische Leistung

Pixeltakt
?
Die Pixel-Füllrate bezieht sich auf die Anzahl der Pixel, die eine Grafikverarbeitungseinheit (GPU) pro Sekunde rendern kann, gemessen in MPixel/s (Millionen Pixel pro Sekunde) oder GPixel/s (Milliarden Pixel pro Sekunde). Es handelt sich dabei um die am häufigsten verwendete Kennzahl zur Bewertung der Pixelverarbeitungsleistung einer Grafikkarte.
478.1 GPixel/s
Texture-Takt
?
Die Textur-Füllrate bezieht sich auf die Anzahl der Textur-Map-Elemente (Texel), die eine GPU in einer Sekunde auf Pixel abbilden kann.
1414 GTexel/s
FP16 (halbe Genauigkeit)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist. Einfach genaue Gleitkommazahlen (32 Bit) werden für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet, während doppelt genaue Gleitkommazahlen (64 Bit) für wissenschaftliches Rechnen erforderlich sind, das einen großen Zahlenbereich und hohe Genauigkeit erfordert.
90.52 TFLOPS
FP64 (Doppelte Gleitkommazahl)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Doppelt genaue Gleitkommazahlen (64 Bit) sind für wissenschaftliches Rechnen erforderlich, das einen großen Zahlenbereich und hohe Genauigkeit erfordert, während einfach genaue Gleitkommazahlen (32 Bit) für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet werden. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.
1414 GFLOPS
FP32 (float)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenfähigkeit. Gleitkommazahlen mit einfacher Genauigkeit (32 Bit) werden für allgemeine Multimedia- und Grafikverarbeitungsaufgaben verwendet, während Gleitkommazahlen mit doppelter Genauigkeit (64 Bit) für wissenschaftliche Berechnungen erforderlich sind, die einen großen Zahlenbereich und hohe Genauigkeit erfordern. Gleitkommazahlen mit halber Genauigkeit (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.
92.33 TFLOPS

Verschiedenes

SM-Anzahl
?
Mehrere Streaming-Prozessoren (SPs) bilden zusammen mit anderen Ressourcen einen Streaming-Multiprozessor (SM), der auch als Hauptkern einer GPU bezeichnet wird. Zu diesen zusätzlichen Ressourcen gehören Komponenten wie Warp-Scheduler, Register und gemeinsamer Speicher. Der SM kann als Herz der GPU betrachtet werden, ähnlich wie ein CPU-Kern, wobei Register und gemeinsamer Speicher knappe Ressourcen innerhalb des SM sind.
142
Shading-Einheiten
?
Die grundlegendste Verarbeitungseinheit ist der Streaming-Prozessor (SP), in dem spezifische Anweisungen und Aufgaben ausgeführt werden. GPUs führen paralleles Rechnen durch, was bedeutet, dass mehrere SPs gleichzeitig arbeiten, um Aufgaben zu verarbeiten.
18176
L1-Cache
128 KB (per SM)
L2-Cache
96MB
TDP (Thermal Design Power)
300W
Vulkan-Version
?
Vulkan ist eine plattformübergreifende Grafik- und Rechen-API der Khronos Group, die hohe Leistung und geringen CPU-Overhead bietet. Es ermöglicht Entwicklern die direkte Steuerung der GPU, reduziert den Rendering-Overhead und unterstützt Multi-Threading und Multi-Core-Prozessoren.
1.3
OpenCL-Version
3.0
OpenGL
4.6
DirectX
12 Ultimate (12_2)
CUDA
8.9
Stromanschlüsse
1x 16-pin
Shader-Modell
6.6
ROPs
?
Die Raster-Operations-Pipeline (ROPs) ist hauptsächlich für die Handhabung von Licht- und Reflexionsberechnungen in Spielen verantwortlich, sowie für die Verwaltung von Effekten wie Kantenglättung (AA), hoher Auflösung, Rauch und Feuer. Je anspruchsvoller die Kantenglättung und Lichteffekte in einem Spiel sind, desto höher sind die Leistungsanforderungen für die ROPs. Andernfalls kann es zu einem starken Einbruch der Bildrate kommen.
192
Empfohlene PSU (Stromversorgung)
700W

Benchmarks

FP32 (float)
Punktzahl
92.33 TFLOPS
Blender
Punktzahl
4336
Vulkan
Punktzahl
249130
OpenCL
Punktzahl
292357

Im Vergleich zu anderen GPUs

FP32 (float) / TFLOPS
166.668 +80.5%
L40
92.33
70.374 -23.8%
62.546 -32.3%
51.381 -44.4%
Blender
12832 +195.9%
L40
4336
1222 -71.8%
203 -95.3%
Vulkan
254749 +2.3%
L40
249130
83205 -66.6%
54373 -78.2%
30994 -87.6%
OpenCL
362331 +23.9%
L40
292357
92041 -68.5%
66428 -77.3%
46137 -84.2%