NVIDIA L40S vs NVIDIA L20: Gleicher Speicher, unterschiedliche Leistung

Die NVIDIA L40S und L20 basieren auf der Ada Lovelace-Architektur und sind mit 48 GB GDDR6-Speicher mit ECC ausgestattet. Sie verfügen über einen identischen 384-Bit-Bus, eine Bandbreite von 864 GB/s und eine PCIe 4.0 x16-Schnittstelle. Auf Basis dieser Spezifikationen erscheinen die Modelle ähnlich, aber die L40S gehört einer deutlich höheren Klasse an.

Sie hat mehr CUDA-, Tensor- und RT-Kerne erhalten, weshalb sie besser für generative KI, belastenden Inferenz, Rendering und virtuelle Workstations geeignet ist. Die L20 bietet ebenfalls eine große Speicherkapazität, fällt aber erheblich in der Rechenleistung zurück.

Hauptunterschiede

Die L40S hat etwa 54% mehr CUDA-Kerne. Ein vergleichbarer Vorteil zeigt sich in FP32-Berechnungen, und bei Tensoroperationen kann der Unterschied noch größer sein.

Was bieten 48 GB Speicher

Der Hauptvorteil der L20 ist der gleiche Video-Speicher wie bei der L40S. Dies ermöglicht das Laden großer Sprachmodelle, komplexer Szenen, umfangreicher Datensätze und mehrerer virtueller Desktops.

Aber die Speicherkapazität bestimmt in erster Linie, ob die Aufgabe auf dem Beschleuniger Platz hat. Die Ausführungsgeschwindigkeit hängt von den Rechenblöcken und der Tensorleistung ab.

Beide Karten können dasselbe Modell ausführen, aber die L40S verarbeitet Anfragen schneller, unterstützt einen größeren Benutzerfluss und benötigt weniger Zeit für das Training oder Nachtraining. Die identische Speicherbandbreite gleicht den Unterschied in der GPU-Leistung nicht aus.

Künstliche Intelligenz

Die L40S ist für gemischte Serverlasten konzipiert: Inferenz, Training von neuronalen Netzwerken, generative KI, Videoverarbeitung und professionelle Visualisierung. Sie unterstützt Tensor-Kerne der vierten Generation, FP8 und den Transformer Engine.

Die L20 sollte in moderateren Szenarien verwendet werden:

• Inferenz mit einer geringen Anzahl gleichzeitiger Anfragen;
• Ausführen von Modellen, die bis zu 48 GB Speicher benötigen;
• gelegentliches Nachtrainieren;
• Server mit begrenztem Energieverbrauch.

In einem ständig ausgelasteten Dienst wird der Vorteil der L40S besonders deutlich: Ein Beschleuniger kann mehr Anfragen bedienen, ohne die Anzahl der Karten zu erhöhen.

Rendering und virtuelle Workstations

Die L40S ist mit 142 RT-Kernen ausgestattet, während die L20 nur 92 hat. Dies macht sie vorzuziehen für Raytracing, fotorealistisches Rendering, digitale Zwillinge und komplexe Szenen in NVIDIA Omniverse.

Zusätzliche CUDA-Kerne beschleunigen die Simulation, die Geometrieverarbeitung und die Rechenphasen des Renderings. Beide Modelle eignen sich auch für entfernte Ingenieur-, Design- und Medienproduktions-Workstations.

Die L40S und L20 verwenden passives Kühlsystem, sodass sie ein Servergehäuse mit gerichteten Luftströmen benötigen. Für einen normalen Desktop-Computer ohne speziell organisiertes Kühlungssystem sind solche Karten nicht geeignet.

Energieverbrauch und Skalierung

Die maximale Leistung der L40S beträgt 350 W, während die L20 etwa 300 W verbraucht. In einem Mehrkarten-Server beeinflusst der Unterschied die Netzteile, die Kühlung und die Dichte der Hardwareplatzierung.

Dabei verbraucht die L40S mehr, bietet aber deutlich höhere Leistung pro installiertem Beschleuniger.

Beide Modelle arbeiten über PCIe und unterstützen keine Speichervereinigung über NVLink. In Systemen mit mehreren GPUs hängt das Ergebnis daher von der PCIe-Topologie, der Prozessorplattform und der Softwareoptimierung ab.

Was wählen

Die NVIDIA L40S sollte gewählt werden, wenn der Beschleuniger ständig für generative KI, hochbelastete Inferenz, Modelltraining, Rendering oder mehrere virtuelle Workstations verwendet wird. Sie ist deutlich schneller und bietet mehr Leistung pro Serversteckplatz.

Die NVIDIA L20 sollte in Betracht gezogen werden, wenn 48 GB Speicher wichtig sind, aber maximale Geschwindigkeit nicht erforderlich ist. Sie eignet sich für moderate Inferenz, grafische Virtualisierung, Videoverarbeitung und professionelle Visualisierung.

Die L20 kann nicht als direkter Ersatz für die L40S betrachtet werden. Sie bietet denselben Speicher und dieselbe Bandbreite, gehört jedoch einer niedrigeren Klasse der Rechenleistung an. Für moderate Lasten ist dies ausreichend, während die L40S für ständig ausgelastete Systeme deutlich vorzuziehen ist.