NVIDIA L40S vs NVIDIA L20 : mémoire identique, performance différente

Les NVIDIA L40S et L20 sont basées sur l'architecture Ada Lovelace et sont équipées de 48 Go de mémoire GDDR6 avec ECC. Elles ont un bus de 384 bits, une bande passante de 864 Go/s et une interface PCIe 4.0 x16. Sur ces caractéristiques, les modèles semblent proches, mais le L40S appartient à une catégorie nettement plus élevée.

Il dispose de plus de cœurs CUDA, Tensor et RT, ce qui le rend mieux adapté à l'IA générative, à l'inférence intensive, au rendu et aux stations de travail virtuelles. Le L20 conserve une grande capacité de mémoire, mais il est significativement inférieur en vitesse de calcul.

Différences principales

Le L40S contient environ 54 % de cœurs CUDA en plus. Un avantage comparable est constaté dans les calculs FP32, et dans les opérations tensor, l'écart peut être encore plus important.

Que permettent 48 Go de mémoire

Le principal avantage du L20 est sa capacité de mémoire similaire à celle du L40S. Cela permet de charger de grands modèles de langage, des scènes complexes, des ensembles de données volumineux et plusieurs postes de travail virtuels.

Cependant, le volume de mémoire détermine avant tout si une tâche peut tenir sur l'accélérateur. La vitesse d'exécution dépend des unités de calcul et de la performance tensor.

Les deux cartes peuvent exécuter le même modèle, mais le L40S traite les requêtes plus rapidement, supporte un plus grand nombre d'utilisateurs simultanés et nécessite moins de temps pour l'entraînement ou le réentraînement. Une bande passante mémoire identique ne compense pas la différence de capacité GPU.

Intelligence artificielle

Le L40S est conçu pour des charges serveurs mixtes : inférence, entraînement de réseaux de neurones, IA générative, traitement vidéo et visualisation professionnelle. Il prend en charge les cœurs Tensor de quatrième génération, FP8 et le Transformer Engine.

Le L20 est plus judicieux à utiliser dans des scénarios plus modérés :

• inférence avec un nombre réduit de requêtes simultanées ;
• exécution de modèles nécessitant jusqu'à 48 Go de mémoire ;
• réentraînement occasionnel ;
• serveurs avec une consommation d'énergie limitée.

Dans un service constamment chargé, l'avantage du L40S devient particulièrement notable : un seul accélérateur peut traiter plus de requêtes sans augmenter le nombre de cartes.

Rendu et stations de travail virtuelles

Le L40S est équipé de 142 cœurs RT contre 92 pour le L20. Cela le rend préférentiel pour le ray tracing, le rendu photoréaliste, les jumeaux numériques et les scènes complexes dans NVIDIA Omniverse.

Des cœurs CUDA supplémentaires accélèrent la simulation, le traitement de la géométrie et les étapes de calcul du rendu. Les deux modèles conviennent également pour des stations de travail d'ingénierie, de design et de production média à distance.

Le L40S et le L20 utilisent un refroidissement passif, il leur faut donc un châssis serveur avec un flux d'air dirigé. Ces cartes ne sont pas conçues pour un ordinateur de bureau standard sans un refroidissement spécialement organisé.

Consommation d'énergie et mise à l'échelle

La puissance maximale du L40S atteint 350 W, alors que le L20 consomme environ 300 W. Dans un serveur multi-cartes, la différence influence les blocs d'alimentation, le refroidissement et la densité du matériel.

Cela dit, le L40S consomme plus, mais offre des performances nettement plus élevées par accélérateur installé.

Les deux modèles fonctionnent via PCIe et ne prennent pas en charge l'agrégation de mémoire via NVLink. Dans les systèmes avec plusieurs GPU, le résultat dépend donc de la topologie PCIe, de la plateforme processeur et de l'optimisation logicielle.

Que choisir

Il faut choisir le NVIDIA L40S si l'accélérateur sera constamment utilisé pour l'IA générative, l'inférence fortement chargée, l'entraînement de modèles, le rendu ou plusieurs postes de travail virtuels. Il est nettement plus rapide et fournit plus de performances par slot serveur.

Le NVIDIA L20 vaut la peine d'être considéré lorsque les 48 Go de mémoire sont importants, mais que la vitesse maximale n'est pas nécessaire. Il convient pour une inférence modérée, la virtualisation graphique, le traitement vidéo et la visualisation professionnelle.

Le L20 ne peut pas être considéré comme un équivalent direct du L40S. Il conserve le même volume de mémoire et la même bande passante, mais il appartient à une classe de performance de calcul inférieure. Pour des charges modérées, cela suffit, tandis que pour des systèmes constamment chargés, le L40S est nettement préférable.