NVIDIA L40

NVIDIA L40

À propos du GPU

La GPU NVIDIA L40 est un véritable concentré de puissance, offrant des spécifications impressionnantes qui en font un choix solide pour les applications professionnelles. Avec une fréquence de base de 735 MHz et une fréquence de boost de 2490 MHz, cette GPU offre des performances rapides et efficaces pour les tâches exigeantes. Les énormes 48 Go de mémoire GDDR6 et une fréquence mémoire de 2250 MHz garantissent que les grands ensembles de données et les simulations complexes peuvent être traités avec facilité. Un des aspects les plus impressionnants de la GPU L40 est ses 18176 unités de shading et ses 96 Mo de cache L2, qui contribuent à sa performance théorique incroyable de 90,52 TFLOPS. Ce niveau de puissance de traitement la rend parfaitement adaptée aux tâches telles que l'apprentissage profond, les simulations scientifiques et le rendu 3D complexe. Malgré ses capacités immenses, la GPU L40 parvient à fonctionner avec une consommation énergétique de 300 W, ce qui la rend relativement efficace sur le plan énergétique pour le niveau de performances qu'elle offre. Cependant, il est à noter qu'une solution de refroidissement capable sera nécessaire pour maintenir cette puissance en fonctionnement optimal. Au final, la GPU NVIDIA L40 est un choix de premier ordre pour les professionnels qui nécessitent des performances intransigeantes pour leur travail. Sa combinaison de hautes fréquences d'horloge, de mémoire généreuse et de performances théoriques impressionnantes en fait une option polyvalente et fiable pour un large éventail d'applications professionnelles. Que ce soit pour la recherche scientifique, la création de contenu ou le développement de l'IA, la GPU L40 est sûre de fournir les performances nécessaires pour mener à bien le travail.

Basique

Nom de l'étiquette
NVIDIA
Plate-forme
Professional
Date de lancement
October 2022
Nom du modèle
L40
Génération
Tesla Ada
Horloge de base
735MHz
Horloge Boost
2490MHz
Interface de bus
PCIe 4.0 x16
Transistors
76,300 million
Cœurs RT
142
Cœurs de Tensor
?
Les Tensor Cores sont des unités de traitement spécialisées conçues spécifiquement pour l'apprentissage en profondeur, offrant des performances supérieures en matière d'entraînement et d'inférence par rapport à l'entraînement FP32. Ils permettent des calculs rapides dans des domaines tels que la vision par ordinateur, le traitement du langage naturel, la reconnaissance vocale, la conversion texte-parole et les recommandations personnalisées. Les deux applications les plus remarquables des Tensor Cores sont DLSS (Deep Learning Super Sampling) et AI Denoiser pour la réduction du bruit.
568
TMUs
?
Les unités de mappage de texture (TMUs) sont des composants du GPU qui sont capables de faire pivoter, mettre à l'échelle et déformer des images binaires, puis de les placer en tant que textures sur n'importe quel plan d'un modèle 3D donné. Ce processus est appelé mappage de texture.
568
Fonderie
TSMC
Taille de processus
4 nm
Architecture
Ada Lovelace

Spécifications de la mémoire

Taille de Mémoire
48GB
Type de Mémoire
GDDR6
Bus de Mémoire
?
La largeur du bus mémoire fait référence au nombre de bits de données que la mémoire vidéo peut transférer lors d'un seul cycle d'horloge. Plus la largeur du bus est grande, plus la quantité de données qui peut être transmise instantanément est importante, ce qui en fait l'un des paramètres cruciaux de la mémoire vidéo. La bande passante mémoire est calculée comme suit : Bande passante mémoire = Fréquence mémoire x Largeur du bus mémoire / 8. Par conséquent, lorsque les fréquences mémoire sont similaires, la largeur du bus mémoire déterminera la taille de la bande passante mémoire.
384bit
Horloge Mémoire
2250MHz
Bande Passante
?
La bande passante mémoire fait référence au débit de transfert de données entre la puce graphique et la mémoire vidéo. Elle est mesurée en octets par seconde, et la formule pour la calculer est : bande passante mémoire = fréquence de fonctionnement × largeur du bus mémoire / 8 bits. En français: La bande passante mémoire désigne le taux de transfert de données entre la puce graphique et la mémoire vidéo. Elle est mesurée en octets par seconde et la formule pour la calculer est la suivante : bande passante mémoire = fréquence de fonctionnement × largeur du bus mémoire / 8 bits.
864.0 GB/s

Performance théorique

Taux de Pixel
?
Le taux de remplissage des pixels désigne le nombre de pixels qu'une unité de traitement graphique (GPU) peut rendre par seconde, mesuré en MPixels/s (million de pixels par seconde) ou en GPixels/s (milliard de pixels par seconde). C'est la mesure la plus couramment utilisée pour évaluer les performances de traitement des pixels d'une carte graphique.
478.1 GPixel/s
Taux de Texture
?
Le taux de remplissage de texture fait référence au nombre d'éléments de texture (texels) qu'un GPU peut mapper sur des pixels en une seule seconde.
1414 GTexel/s
FP16 (demi)
?
Une mesure importante pour évaluer les performances des GPU est la capacité de calcul en virgule flottante. Les nombres en virgule flottante à demi-précision (16 bits) sont utilisés pour des applications telles que l'apprentissage automatique, où une précision inférieure est acceptable. Les nombres en virgule flottante simple précision (32 bits) sont utilisés pour les tâches courantes de multimédia et de traitement graphique, tandis que les nombres en virgule flottante double précision (64 bits) sont requis pour le calcul scientifique qui nécessite une large plage numérique et une grande précision.
90.52 TFLOPS
FP64 (double précision)
?
Une mesure importante pour évaluer les performances des GPU est la capacité de calcul en virgule flottante. Les nombres en virgule flottante à demi-précision (16 bits) sont utilisés pour des applications telles que l'apprentissage automatique, où une précision inférieure est acceptable. Les nombres en virgule flottante simple précision (32 bits) sont utilisés pour les tâches courantes de multimédia et de traitement graphique, tandis que les nombres en virgule flottante double précision (64 bits) sont requis pour le calcul scientifique qui nécessite une large plage numérique et une grande précision.
1414 GFLOPS
FP32 (flottant)
?
Une mesure importante pour mesurer les performances du GPU est la capacité de calcul en virgule flottante. Les nombres à virgule flottante simple précision (32 bits) sont utilisés pour les tâches courantes de traitement multimédia et graphique, tandis que les nombres à virgule flottante double précision (64 bits) sont requis pour le calcul scientifique qui exige une large plage numérique et une grande précision. Les nombres à virgule flottante demi-précision (16 bits) sont utilisés pour des applications telles que l'apprentissage automatique, où une précision inférieure est acceptable.
92.33 TFLOPS

Divers

Nombre de SM
?
Plusieurs processeurs de flux (SPs), ainsi que d'autres ressources, forment un multiprocesseur de flux (SM), également appelé cœur principal du GPU. Ces ressources supplémentaires comprennent des composants tels que des ordonnanceurs de warp, des registres et de la mémoire partagée. Le SM peut être considéré comme le cœur du GPU, similaire à un cœur de CPU, les registres et la mémoire partagée étant des ressources limitées au sein du SM.
142
Unités d'Ombrage
?
L'unité de traitement la plus fondamentale est le processeur en continu (SP), où des instructions et des tâches spécifiques sont exécutées. Les GPU effectuent des calculs parallèles, ce qui signifie que plusieurs SP fonctionnent simultanément pour traiter les tâches.
18176
Cache L1
128 KB (per SM)
Cache L2
96MB
TDP
300W
Version Vulkan
?
Vulkan est une API graphique et de calcul multiplateforme du groupe Khronos, offrant des performances élevées et une faible surcharge du processeur. Il permet aux développeurs de contrôler directement le GPU, réduit les frais de rendu et prend en charge les processeurs multithread et multicœurs.
1.3
Version OpenCL
3.0
OpenGL
4.6
DirectX
12 Ultimate (12_2)
CUDA
8.9
Connecteurs d'alimentation
1x 16-pin
Modèle de shader
6.6
ROPs
?
Le pipeline des opérations de rasterisation (ROPs) est principalement responsable de la gestion des calculs d'éclairage et de réflexion dans les jeux, ainsi que de la gestion d'effets tels que l'anti-aliasing (AA), la haute résolution, la fumée et le feu. Plus les effets d'anti-aliasing et d'éclairage sont exigeants dans un jeu, plus les exigences de performances pour les ROPs sont élevées ; sinon, cela peut entraîner une chute importante du taux de rafraîchissement.
192
Alimentation suggérée
700W

Benchmarks

FP32 (flottant)
Score
92.33 TFLOPS
Blender
Score
4336
Vulkan
Score
249130
OpenCL
Score
292357

Comparé aux autres GPU

FP32 (flottant) / TFLOPS
166.668 +80.5%
L40
92.33
70.374 -23.8%
62.546 -32.3%
51.381 -44.4%
Blender
12832 +195.9%
L40
4336
1222 -71.8%
203 -95.3%
Vulkan
254749 +2.3%
L40
249130
83205 -66.6%
54373 -78.2%
30994 -87.6%
OpenCL
362331 +23.9%
L40
292357
92041 -68.5%
66428 -77.3%
46137 -84.2%