NVIDIA H100 PCIe 80 GB
Über GPU
Die NVIDIA H100 PCIe 80GB GPU ist eine leistungsstarke Grafikverarbeitungseinheit, die für den professionellen Einsatz konzipiert ist. Mit einer Basistaktgeschwindigkeit von 1095MHz und einer Boost-Taktgeschwindigkeit von 1755MHz bietet diese GPU blitzschnelle Leistung für anspruchsvolle Workloads.
Eine der herausragenden Eigenschaften des H100 ist sein massiver 80GB HBM2e-Speicher, der eine unglaublich hohe Bandbreite und schnellen Datenzugriff ermöglicht. Dies wird durch eine Speichertaktgeschwindigkeit von 1593MHz weiter unterstützt, um sicherzustellen, dass Daten schnell und effizient verarbeitet werden können.
Mit beeindruckenden 14592 Shading-Einheiten und 50MB L2-Cache ist der H100 in der Lage, komplexe Rendering- und Berechnungsaufgaben mühelos zu bewältigen. Darüber hinaus zeigt die TDP von 350W ihren hohen Energiebedarf, aber dies ist ein notwendiger Kompromiss für das Leistungsniveau, das sie bietet.
In Bezug auf die rohe Rechenleistung enttäuscht der H100 nicht, mit einer theoretischen Leistung von 51,22 TFLOPS. Dies macht ihn für Aufgaben wie Deep Learning, wissenschaftliche Simulationen und High-Performance-Computing gut geeignet.
Insgesamt ist die NVIDIA H100 PCIe 80GB GPU eine Spitzenlösung für Profis, die kompromisslose Leistung für ihre Arbeit benötigen. Obwohl sie für den durchschnittlichen Verbraucher überdimensioniert sein kann, wird der H100 für diejenigen, die die bestmögliche Leistung benötigen, sicher beeindruckend sein.
Basic
Markenname
NVIDIA
Plattform
Professional
Erscheinungsdatum
March 2022
Modellname
H100 PCIe 80 GB
Generation
Hopper
Basis-Takt
1095MHz
Boost-Takt
1755MHz
Bus-Schnittstelle
PCIe 5.0 x16
Speicherspezifikationen
Speichergröße
80GB
Speichertyp
HBM2e
Speicherbus
?
Der Speicherbus bezieht sich auf die Anzahl der Bits, die das Videomemory innerhalb eines einzelnen Taktzyklus übertragen kann. Je größer die Busbreite, desto mehr Daten können gleichzeitig übertragen werden, was sie zu einem der entscheidenden Parameter des Videomemory macht. Die Speicherbandbreite wird wie folgt berechnet: Speicherbandbreite = Speicherfrequenz x Speicherbusbreite / 8. Wenn also die Speicherfrequenzen ähnlich sind, bestimmt die Speicherbusbreite die Größe der Speicherbandbreite.
5120bit
Speichertakt
1593MHz
Bandbreite
?
Die Speicherbandbreite bezieht sich auf die Datenübertragungsrate zwischen dem Grafikchip und dem Videomemory. Sie wird in Bytes pro Sekunde gemessen, und die Formel zur Berechnung lautet: Speicherbandbreite = Arbeitsfrequenz × Speicherbusbreite / 8 Bit.
2039 GB/s
Theoretische Leistung
Pixeltakt
?
Die Pixel-Füllrate bezieht sich auf die Anzahl der Pixel, die eine Grafikverarbeitungseinheit (GPU) pro Sekunde rendern kann, gemessen in MPixel/s (Millionen Pixel pro Sekunde) oder GPixel/s (Milliarden Pixel pro Sekunde). Es handelt sich dabei um die am häufigsten verwendete Kennzahl zur Bewertung der Pixelverarbeitungsleistung einer Grafikkarte.
42.12 GPixel/s
Texture-Takt
?
Die Textur-Füllrate bezieht sich auf die Anzahl der Textur-Map-Elemente (Texel), die eine GPU in einer Sekunde auf Pixel abbilden kann.
800.3 GTexel/s
FP16 (halbe Genauigkeit)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist. Einfach genaue Gleitkommazahlen (32 Bit) werden für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet, während doppelt genaue Gleitkommazahlen (64 Bit) für wissenschaftliches Rechnen erforderlich sind, das einen großen Zahlenbereich und hohe Genauigkeit erfordert.
1513 TFLOPS
FP64 (Doppelte Gleitkommazahl)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Doppelt genaue Gleitkommazahlen (64 Bit) sind für wissenschaftliches Rechnen erforderlich, das einen großen Zahlenbereich und hohe Genauigkeit erfordert, während einfach genaue Gleitkommazahlen (32 Bit) für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet werden. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.
25.61 TFLOPS
FP32 (float)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenfähigkeit. Gleitkommazahlen mit einfacher Genauigkeit (32 Bit) werden für allgemeine Multimedia- und Grafikverarbeitungsaufgaben verwendet, während Gleitkommazahlen mit doppelter Genauigkeit (64 Bit) für wissenschaftliche Berechnungen erforderlich sind, die einen großen Zahlenbereich und hohe Genauigkeit erfordern. Gleitkommazahlen mit halber Genauigkeit (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.
50.196
TFLOPS
Verschiedenes
SM-Anzahl
?
Mehrere Streaming-Prozessoren (SPs) bilden zusammen mit anderen Ressourcen einen Streaming-Multiprozessor (SM), der auch als Hauptkern einer GPU bezeichnet wird. Zu diesen zusätzlichen Ressourcen gehören Komponenten wie Warp-Scheduler, Register und gemeinsamer Speicher. Der SM kann als Herz der GPU betrachtet werden, ähnlich wie ein CPU-Kern, wobei Register und gemeinsamer Speicher knappe Ressourcen innerhalb des SM sind.
114
Shading-Einheiten
?
Die grundlegendste Verarbeitungseinheit ist der Streaming-Prozessor (SP), in dem spezifische Anweisungen und Aufgaben ausgeführt werden. GPUs führen paralleles Rechnen durch, was bedeutet, dass mehrere SPs gleichzeitig arbeiten, um Aufgaben zu verarbeiten.
14592
L1-Cache
256 KB (per SM)
L2-Cache
50MB
TDP (Thermal Design Power)
350W
Vulkan-Version
?
Vulkan ist eine plattformübergreifende Grafik- und Rechen-API der Khronos Group, die hohe Leistung und geringen CPU-Overhead bietet. Es ermöglicht Entwicklern die direkte Steuerung der GPU, reduziert den Rendering-Overhead und unterstützt Multi-Threading und Multi-Core-Prozessoren.
N/A
OpenCL-Version
3.0
Benchmarks
FP32 (float)
Punktzahl
50.196
TFLOPS
Im Vergleich zu anderen GPUs
FP32 (float)
/ TFLOPS