NVIDIA H100 SXM5 96 GB

NVIDIA H100 SXM5 96 GB

Über GPU

Die NVIDIA H100 SXM5 96GB GPU ist eine professionelle Grafikprozessoreinheit mit außergewöhnlicher Leistung und Fähigkeiten für anspruchsvolle Arbeitslasten und komplexe Rechenaufgaben. Mit einer Basistaktung von 1665 MHz und einer Boost-Taktung von 1837 MHz bietet diese GPU beeindruckende Rechenleistung, um High-Performance-Computing-Aufgaben mühelos zu bewältigen. Eine der herausragenden Funktionen der NVIDIA H100 SXM5 ist ihr riesiger 96GB HBM3-Speicher, der die effiziente Verarbeitung großer Datensätze und komplexer Simulationen ermöglicht. Die hohe Speichertaktung von 1313 MHz garantiert, dass Daten schnell abgerufen und manipuliert werden können und damit die Gesamtleistung der GPU weiter verbessert. Mit 16896 Shader-Einheiten und 50MB L2-Cache ist diese GPU bestens ausgestattet, um parallele Verarbeitung und fortgeschrittene Rendering-Aufgaben zu bewältigen. Die TDP von 700W spiegelt den hohen Energiebedarf wider, der für die beeindruckenden Fähigkeiten erforderlich ist, was sie am besten für Umgebungen mit High-Performance-Computing geeignet macht. In Bezug auf die Leistung kommt die NVIDIA H100 SXM5 auf eine theoretische Leistung von 66,98 TFLOPS, was sie für eine Vielzahl von professionellen Anwendungen wie wissenschaftliche Forschung, Datenanalyse und fortschrittliche Bild- und Videobearbeitung geeignet macht. Insgesamt ist die NVIDIA H100 SXM5 96GB GPU eine leistungsstarke Lösung für Fachleute und Organisationen, die erstklassige Leistung für ihre Berechnungs- und Grafik-Arbeitslasten benötigen. Ihre Kombination aus hoher Speicherkapazität, fortschrittlicher Rechenleistung und effizienter Datenverarbeitung macht sie zur bevorzugten Wahl für anspruchsvolle Aufgaben.

Basic

Markenname
NVIDIA
Plattform
Professional
Erscheinungsdatum
March 2022
Modellname
H100 SXM5 96 GB
Generation
Tesla Hopper
Basis-Takt
1665MHz
Boost-Takt
1837MHz
Bus-Schnittstelle
PCIe 5.0 x16

Speicherspezifikationen

Speichergröße
96GB
Speichertyp
HBM3
Speicherbus
?
Der Speicherbus bezieht sich auf die Anzahl der Bits, die das Videomemory innerhalb eines einzelnen Taktzyklus übertragen kann. Je größer die Busbreite, desto mehr Daten können gleichzeitig übertragen werden, was sie zu einem der entscheidenden Parameter des Videomemory macht. Die Speicherbandbreite wird wie folgt berechnet: Speicherbandbreite = Speicherfrequenz x Speicherbusbreite / 8. Wenn also die Speicherfrequenzen ähnlich sind, bestimmt die Speicherbusbreite die Größe der Speicherbandbreite.
5120bit
Speichertakt
1313MHz
Bandbreite
?
Die Speicherbandbreite bezieht sich auf die Datenübertragungsrate zwischen dem Grafikchip und dem Videomemory. Sie wird in Bytes pro Sekunde gemessen, und die Formel zur Berechnung lautet: Speicherbandbreite = Arbeitsfrequenz × Speicherbusbreite / 8 Bit.
3350 GB/s

Theoretische Leistung

Pixeltakt
?
Die Pixel-Füllrate bezieht sich auf die Anzahl der Pixel, die eine Grafikverarbeitungseinheit (GPU) pro Sekunde rendern kann, gemessen in MPixel/s (Millionen Pixel pro Sekunde) oder GPixel/s (Milliarden Pixel pro Sekunde). Es handelt sich dabei um die am häufigsten verwendete Kennzahl zur Bewertung der Pixelverarbeitungsleistung einer Grafikkarte.
44.09 GPixel/s
Texture-Takt
?
Die Textur-Füllrate bezieht sich auf die Anzahl der Textur-Map-Elemente (Texel), die eine GPU in einer Sekunde auf Pixel abbilden kann.
969.9 GTexel/s
FP16 (halbe Genauigkeit)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist. Einfach genaue Gleitkommazahlen (32 Bit) werden für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet, während doppelt genaue Gleitkommazahlen (64 Bit) für wissenschaftliches Rechnen erforderlich sind, das einen großen Zahlenbereich und hohe Genauigkeit erfordert.
248.3 TFLOPS
FP64 (Doppelte Gleitkommazahl)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Doppelt genaue Gleitkommazahlen (64 Bit) sind für wissenschaftliches Rechnen erforderlich, das einen großen Zahlenbereich und hohe Genauigkeit erfordert, während einfach genaue Gleitkommazahlen (32 Bit) für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet werden. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.
31.04 TFLOPS
FP32 (float)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenfähigkeit. Gleitkommazahlen mit einfacher Genauigkeit (32 Bit) werden für allgemeine Multimedia- und Grafikverarbeitungsaufgaben verwendet, während Gleitkommazahlen mit doppelter Genauigkeit (64 Bit) für wissenschaftliche Berechnungen erforderlich sind, die einen großen Zahlenbereich und hohe Genauigkeit erfordern. Gleitkommazahlen mit halber Genauigkeit (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.
68.32 TFLOPS

Verschiedenes

SM-Anzahl
?
Mehrere Streaming-Prozessoren (SPs) bilden zusammen mit anderen Ressourcen einen Streaming-Multiprozessor (SM), der auch als Hauptkern einer GPU bezeichnet wird. Zu diesen zusätzlichen Ressourcen gehören Komponenten wie Warp-Scheduler, Register und gemeinsamer Speicher. Der SM kann als Herz der GPU betrachtet werden, ähnlich wie ein CPU-Kern, wobei Register und gemeinsamer Speicher knappe Ressourcen innerhalb des SM sind.
132
Shading-Einheiten
?
Die grundlegendste Verarbeitungseinheit ist der Streaming-Prozessor (SP), in dem spezifische Anweisungen und Aufgaben ausgeführt werden. GPUs führen paralleles Rechnen durch, was bedeutet, dass mehrere SPs gleichzeitig arbeiten, um Aufgaben zu verarbeiten.
16896
L1-Cache
256 KB (per SM)
L2-Cache
50MB
TDP (Thermal Design Power)
700W
Vulkan-Version
?
Vulkan ist eine plattformübergreifende Grafik- und Rechen-API der Khronos Group, die hohe Leistung und geringen CPU-Overhead bietet. Es ermöglicht Entwicklern die direkte Steuerung der GPU, reduziert den Rendering-Overhead und unterstützt Multi-Threading und Multi-Core-Prozessoren.
N/A
OpenCL-Version
3.0

Benchmarks

FP32 (float)
Punktzahl
68.32 TFLOPS

Im Vergleich zu anderen GPUs

FP32 (float) / TFLOPS
75.011 +9.8%
68.248 -0.1%
68.248 -0.1%