NVIDIA Jetson Orin NX 16 GB
Über GPU
Die NVIDIA Jetson Orin NX 16 GB GPU ist eine professionelle Grafikverarbeitungseinheit, die eine außergewöhnliche Leistung und Effizienz für eine Vielzahl von Anwendungen bietet. Mit einem Speicher von 16 GB und dem neuesten Speichertyp LPDDR5 bietet diese GPU gegenüber früheren Generationen erhebliche Verbesserungen bei Datenübertragungsgeschwindigkeiten und Energieeffizienz.
Der 1600 MHz Speichertakt und 1024 Shading-Einheiten bieten die benötigte Verarbeitungsleistung für anspruchsvolle Aufgaben wie KI-Inferenz, autonome Maschinen und Hochleistungsrechnen. Der 256 KB L2-Cache trägt dazu bei, die Leistung der GPU weiter zu verbessern, indem er die Speicherlatenz reduziert und die Gesamteffizienz erhöht.
Trotz seiner beeindruckenden Leistungsfähigkeit hat die Jetson Orin NX 16 GB GPU eine relativ niedrige TDP von 25W, was sie für strombeschränkte Umgebungen wie Edge-Geräte und eingebettete Systeme geeignet macht. Diese Kombination aus hoher Leistung und geringem Stromverbrauch macht sie zu einer idealen Wahl für eine Vielzahl von Anwendungen, von Robotik und autonomen Fahrzeugen bis hin zu medizinischer Bildgebung und industrieller Automation.
Mit einer theoretischen Leistung von 1,88 TFLOPS ist die Jetson Orin NX 16 GB GPU in der Lage, komplexe Berechnungsaufgaben mühelos zu bewältigen und ist somit eine vielseitige Lösung für Entwickler und Ingenieure, die an KI- und Deep-Learning-Projekten arbeiten.
Insgesamt bietet die NVIDIA Jetson Orin NX 16 GB GPU eine überzeugende Mischung aus Leistung, Effizienz und fortschrittlichen Funktionen, was sie zu einer wertvollen Ergänzung für jede professionelle Arbeitsstation oder Edge-Computing-Gerät macht.
Basic
Markenname
NVIDIA
Plattform
Professional
Erscheinungsdatum
February 2023
Modellname
Jetson Orin NX 16 GB
Generation
Tegra
Bus-Schnittstelle
PCIe 4.0 x4
Transistoren
Unknown
Tensor-Kerne
?
Tensor-Kerne sind spezialisierte Verarbeitungseinheiten, die speziell für das Deep Learning entwickelt wurden und im Vergleich zum FP32-Training eine höhere Trainings- und Inferenzleistung bieten. Sie ermöglichen schnelle Berechnungen in Bereichen wie Computer Vision, Natural Language Processing, Spracherkennung, Text-zu-Sprache-Konvertierung und personalisierteEmpfehlungen. Die beiden bekanntesten Anwendungen von Tensor-Kernen sind DLSS (Deep Learning Super Sampling) und AI Denoiser zur Rauschreduzierung.
32
TMUs
?
Textur-Mapping-Einheiten (TMUs) sind Komponenten der GPU, die in der Lage sind, Binärbilder zu drehen, zu skalieren und zu verzerren und sie dann als Texturen auf jede Ebene eines gegebenen 3D-Modells zu platzieren. Dieser Prozess wird als Textur-Mapping bezeichnet.
32
Foundry
Samsung
Prozessgröße
8 nm
Architektur
Ampere
Speicherspezifikationen
Speichergröße
16GB
Speichertyp
LPDDR5
Speicherbus
?
Der Speicherbus bezieht sich auf die Anzahl der Bits, die das Videomemory innerhalb eines einzelnen Taktzyklus übertragen kann. Je größer die Busbreite, desto mehr Daten können gleichzeitig übertragen werden, was sie zu einem der entscheidenden Parameter des Videomemory macht. Die Speicherbandbreite wird wie folgt berechnet: Speicherbandbreite = Speicherfrequenz x Speicherbusbreite / 8. Wenn also die Speicherfrequenzen ähnlich sind, bestimmt die Speicherbusbreite die Größe der Speicherbandbreite.
128bit
Speichertakt
1600MHz
Bandbreite
?
Die Speicherbandbreite bezieht sich auf die Datenübertragungsrate zwischen dem Grafikchip und dem Videomemory. Sie wird in Bytes pro Sekunde gemessen, und die Formel zur Berechnung lautet: Speicherbandbreite = Arbeitsfrequenz × Speicherbusbreite / 8 Bit.
102.4 GB/s
Theoretische Leistung
Pixeltakt
?
Die Pixel-Füllrate bezieht sich auf die Anzahl der Pixel, die eine Grafikverarbeitungseinheit (GPU) pro Sekunde rendern kann, gemessen in MPixel/s (Millionen Pixel pro Sekunde) oder GPixel/s (Milliarden Pixel pro Sekunde). Es handelt sich dabei um die am häufigsten verwendete Kennzahl zur Bewertung der Pixelverarbeitungsleistung einer Grafikkarte.
14.69 GPixel/s
Texture-Takt
?
Die Textur-Füllrate bezieht sich auf die Anzahl der Textur-Map-Elemente (Texel), die eine GPU in einer Sekunde auf Pixel abbilden kann.
29.38 GTexel/s
FP16 (halbe Genauigkeit)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist. Einfach genaue Gleitkommazahlen (32 Bit) werden für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet, während doppelt genaue Gleitkommazahlen (64 Bit) für wissenschaftliches Rechnen erforderlich sind, das einen großen Zahlenbereich und hohe Genauigkeit erfordert.
3.760 TFLOPS
FP64 (Doppelte Gleitkommazahl)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Doppelt genaue Gleitkommazahlen (64 Bit) sind für wissenschaftliches Rechnen erforderlich, das einen großen Zahlenbereich und hohe Genauigkeit erfordert, während einfach genaue Gleitkommazahlen (32 Bit) für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet werden. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.
940.0 GFLOPS
FP32 (float)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenfähigkeit. Gleitkommazahlen mit einfacher Genauigkeit (32 Bit) werden für allgemeine Multimedia- und Grafikverarbeitungsaufgaben verwendet, während Gleitkommazahlen mit doppelter Genauigkeit (64 Bit) für wissenschaftliche Berechnungen erforderlich sind, die einen großen Zahlenbereich und hohe Genauigkeit erfordern. Gleitkommazahlen mit halber Genauigkeit (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.
1.918
TFLOPS
Verschiedenes
SM-Anzahl
?
Mehrere Streaming-Prozessoren (SPs) bilden zusammen mit anderen Ressourcen einen Streaming-Multiprozessor (SM), der auch als Hauptkern einer GPU bezeichnet wird. Zu diesen zusätzlichen Ressourcen gehören Komponenten wie Warp-Scheduler, Register und gemeinsamer Speicher. Der SM kann als Herz der GPU betrachtet werden, ähnlich wie ein CPU-Kern, wobei Register und gemeinsamer Speicher knappe Ressourcen innerhalb des SM sind.
8
Shading-Einheiten
?
Die grundlegendste Verarbeitungseinheit ist der Streaming-Prozessor (SP), in dem spezifische Anweisungen und Aufgaben ausgeführt werden. GPUs führen paralleles Rechnen durch, was bedeutet, dass mehrere SPs gleichzeitig arbeiten, um Aufgaben zu verarbeiten.
1024
L1-Cache
128 KB (per SM)
L2-Cache
256KB
TDP (Thermal Design Power)
25W
Vulkan-Version
?
Vulkan ist eine plattformübergreifende Grafik- und Rechen-API der Khronos Group, die hohe Leistung und geringen CPU-Overhead bietet. Es ermöglicht Entwicklern die direkte Steuerung der GPU, reduziert den Rendering-Overhead und unterstützt Multi-Threading und Multi-Core-Prozessoren.
1.3
OpenCL-Version
3.0
OpenGL
4.6
DirectX
12 Ultimate (12_2)
CUDA
8.6
Shader-Modell
6.7
ROPs
?
Die Raster-Operations-Pipeline (ROPs) ist hauptsächlich für die Handhabung von Licht- und Reflexionsberechnungen in Spielen verantwortlich, sowie für die Verwaltung von Effekten wie Kantenglättung (AA), hoher Auflösung, Rauch und Feuer. Je anspruchsvoller die Kantenglättung und Lichteffekte in einem Spiel sind, desto höher sind die Leistungsanforderungen für die ROPs. Andernfalls kann es zu einem starken Einbruch der Bildrate kommen.
16
Benchmarks
FP32 (float)
Punktzahl
1.918
TFLOPS
Im Vergleich zu anderen GPUs
FP32 (float)
/ TFLOPS