NVIDIA L40S vs NVIDIA L20: memoria identica, prestazioni diverse

NVIDIA L40S e L20 sono basate sull'architettura Ada Lovelace e dotate di 48 GB di memoria GDDR6 con ECC. Hanno lo stesso bus a 384 bit, una larghezza di banda di 864 GB/s e un'interfaccia PCIe 4.0 x16. Sulla base di queste caratteristiche, i modelli sembrano simili, ma L40S appartiene a una classe nettamente superiore.

Ha un numero maggiore di core CUDA, Tensor e RT, quindi è più adatta per l'IA generativa, il carico di lavoro di inferenza, il rendering e le workstation virtuali. L20 conserva un grande volume di memoria, ma è sostanzialmente inferiore in termini di velocità di calcolo.

Differenze principali

L40S contiene circa il 54% in più di core CUDA. Un vantaggio comparabile si osserva nei calcoli FP32, mentre nelle operazioni tensoriali il divario può essere ancora maggiore.

Cosa offre la memoria di 48 GB

Il principale vantaggio di L20 è lo stesso volume di memoria video di L40S. Questo consente il caricamento di grandi modelli linguistici, scene complesse, set di dati voluminosi e più desktop virtuali.

Tuttavia, il volume di memoria determina principalmente se un'attività possa essere eseguita sull'acceleratore. La velocità con cui viene completata dipende dai blocchi di calcolo e dalle prestazioni tensoriali.

Entrambe le schede possono eseguire lo stesso modello, ma L40S elabora le richieste più rapidamente, supporta un numero maggiore di utenti simultanei e richiede meno tempo per l'addestramento o il riaddestramento. La larghezza di banda di memoria identica non compensa la differenza nella potenza della GPU.

Intelligenza artificiale

L40S è progettata per carichi di lavoro server misti: inferenza, addestramento di reti neurali, IA generativa, elaborazione video e visualizzazione professionale. Supporta i core Tensor di quarta generazione, FP8 e Transformer Engine.

L20 è più adeguata per scenari più moderati:

• inferenza con un numero limitato di richieste simultanee;
• esecuzione di modelli che richiedono fino a 48 GB di memoria;
• periodico riaddestramento;
• server con consumo energetico limitato.

In un servizio costantemente carico, il vantaggio di L40S diventa particolarmente evidente: un acceleratore può gestire più richieste senza aumentare il numero di schede.

Rendering e workstation virtuali

L40S è dotata di 142 core RT contro 92 di L20. Questo la rende preferibile per il ray tracing, il rendering fotorealistico, i gemelli digitali e scene complesse in NVIDIA Omniverse.

Core CUDA aggiuntivi accelerano la simulazione, l'elaborazione della geometria e le fasi di calcolo del rendering. Entrambi i modelli sono adatti anche per workstation ingegneristiche, di design e di produzione multimediale remote.

L40S e L20 utilizzano un raffreddamento passivo, quindi richiedono un chassis server con flusso d'aria diretto. Per un normale computer desktop senza raffreddamento appositamente organizzato, queste schede non sono progettate.

Consumo energetico e scalabilità

La potenza massima di L40S raggiunge i 350 W, mentre L20 consuma circa 300 W. In un server multi-scheda, la differenza influisce sulle alimentazioni, sul raffreddamento e sulla densità di posizionamento dell'hardware.

Tuttavia, L40S consuma di più, ma offre prestazioni significativamente più alte per ogni acceleratore installato.

Entrambi i modelli operano tramite PCIe e non supportano unione di memoria tramite NVLink. Nei sistemi con più GPU, pertanto, il risultato dipende dalla topologia PCIe, dalla piattaforma del processore e dall'ottimizzazione software.

Cosa scegliere

NVIDIA L40S è da preferire se l'acceleratore verrà utilizzato costantemente per IA generativa, inferenza ad alta intensità, addestramento di modelli, rendering o più workstation virtuali. È notevolmente più veloce e fornisce maggiori prestazioni per ogni slot server.

NVIDIA L20 è da considerare quando sono importanti i 48 GB di memoria, ma non è richiesta la massima velocità. È adatta per inferenze moderate, virtualizzazione grafica, elaborazione video e visualizzazione professionale.

L20 non può essere considerata un diretto equivalente di L40S. Mantiene lo stesso volume di memoria e larghezza di banda, ma appartiene a una classe inferiore di prestazioni di calcolo. Per carichi moderati, questo è sufficiente, mentre per sistemi costantemente carichi L40S è nettamente preferibile.