Startseite / GPU-Vergleich / NVIDIA GeForce RTX 3090 oder NVIDIA H100 SXM5 80 GB: Was ist besser?

NVIDIA GeForce RTX 3090

vs

NVIDIA H100 SXM5 80 GB

GPU-Vergleichsergebnis

Nachfolgend finden Sie die Ergebnisse eines Vergleichs von NVIDIA GeForce RTX 3090 und NVIDIA H100 SXM5 80 GB Grafikkarten basierend auf wichtigen Leistungsmerkmalen sowie Stromverbrauch und vielem mehr.

Vorteile

NVIDIA H100 SXM5 80 GB

Höher Boost-Takt: 1980MHz (1695MHz vs 1980MHz)
Größer Speichergröße: 80GB (24GB vs 80GB)
Höher Bandbreite: 3350 GB/s (936.2 GB/s vs 3350 GB/s)
Mehr Shading-Einheiten: 16896 (10496 vs 16896)
Neuer Erscheinungsdatum: March 2022 (September 2020 vs March 2022)

Basic

NVIDIA

Markenname

NVIDIA

September 2020

Erscheinungsdatum

March 2022

Desktop

Plattform

Professional

GeForce RTX 3090

Modellname

H100 SXM5 80 GB

GeForce 30

Generation

Hopper

1395MHz

Basis-Takt

1590MHz

1695MHz

Boost-Takt

1980MHz

PCIe 4.0 x16

Bus-Schnittstelle

PCIe 5.0 x16

28,300 million

Transistoren

80,000 million

RT-Kerne

328

Tensor-Kerne

Tensor-Kerne sind spezialisierte Verarbeitungseinheiten, die speziell für das Deep Learning entwickelt wurden und im Vergleich zum FP32-Training eine höhere Trainings- und Inferenzleistung bieten. Sie ermöglichen schnelle Berechnungen in Bereichen wie Computer Vision, Natural Language Processing, Spracherkennung, Text-zu-Sprache-Konvertierung und personalisierteEmpfehlungen. Die beiden bekanntesten Anwendungen von Tensor-Kernen sind DLSS (Deep Learning Super Sampling) und AI Denoiser zur Rauschreduzierung.

528

328

TMUs

Textur-Mapping-Einheiten (TMUs) sind Komponenten der GPU, die in der Lage sind, Binärbilder zu drehen, zu skalieren und zu verzerren und sie dann als Texturen auf jede Ebene eines gegebenen 3D-Modells zu platzieren. Dieser Prozess wird als Textur-Mapping bezeichnet.

528

Samsung

Foundry

TSMC

8 nm

Prozessgröße

4 nm

Ampere

Architektur

Hopper

Speicherspezifikationen

24GB

Speichergröße

80GB

GDDR6X

Speichertyp

HBM3

384bit

Speicherbus

Der Speicherbus bezieht sich auf die Anzahl der Bits, die das Videomemory innerhalb eines einzelnen Taktzyklus übertragen kann. Je größer die Busbreite, desto mehr Daten können gleichzeitig übertragen werden, was sie zu einem der entscheidenden Parameter des Videomemory macht. Die Speicherbandbreite wird wie folgt berechnet: Speicherbandbreite = Speicherfrequenz x Speicherbusbreite / 8. Wenn also die Speicherfrequenzen ähnlich sind, bestimmt die Speicherbusbreite die Größe der Speicherbandbreite.

5120bit

1219MHz

Speichertakt

1313MHz

936.2 GB/s

Bandbreite

Die Speicherbandbreite bezieht sich auf die Datenübertragungsrate zwischen dem Grafikchip und dem Videomemory. Sie wird in Bytes pro Sekunde gemessen, und die Formel zur Berechnung lautet: Speicherbandbreite = Arbeitsfrequenz × Speicherbusbreite / 8 Bit.

3350 GB/s

Anzeige und Medien

1x HDMI 2.1
3x DisplayPort 1.4a

Ausgänge

No outputs

Theoretische Leistung

189.8 GPixel/s

Pixeltakt

Die Pixel-Füllrate bezieht sich auf die Anzahl der Pixel, die eine Grafikverarbeitungseinheit (GPU) pro Sekunde rendern kann, gemessen in MPixel/s (Millionen Pixel pro Sekunde) oder GPixel/s (Milliarden Pixel pro Sekunde). Es handelt sich dabei um die am häufigsten verwendete Kennzahl zur Bewertung der Pixelverarbeitungsleistung einer Grafikkarte.

47.52 GPixel/s

556.0 GTexel/s

Texture-Takt

Die Textur-Füllrate bezieht sich auf die Anzahl der Textur-Map-Elemente (Texel), die eine GPU in einer Sekunde auf Pixel abbilden kann.

1045 GTexel/s

35.58 TFLOPS

FP16 (halbe Genauigkeit)

Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist. Einfach genaue Gleitkommazahlen (32 Bit) werden für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet, während doppelt genaue Gleitkommazahlen (64 Bit) für wissenschaftliches Rechnen erforderlich sind, das einen großen Zahlenbereich und hohe Genauigkeit erfordert.

1979 TFLOPS

556.0 GFLOPS

FP64 (Doppelte Gleitkommazahl)

Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Doppelt genaue Gleitkommazahlen (64 Bit) sind für wissenschaftliches Rechnen erforderlich, das einen großen Zahlenbereich und hohe Genauigkeit erfordert, während einfach genaue Gleitkommazahlen (32 Bit) für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet werden. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.

34 TFLOPS

34.868 TFLOPS

FP32 (float)

Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenfähigkeit. Gleitkommazahlen mit einfacher Genauigkeit (32 Bit) werden für allgemeine Multimedia- und Grafikverarbeitungsaufgaben verwendet, während Gleitkommazahlen mit doppelter Genauigkeit (64 Bit) für wissenschaftliche Berechnungen erforderlich sind, die einen großen Zahlenbereich und hohe Genauigkeit erfordern. Gleitkommazahlen mit halber Genauigkeit (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.

68.248 TFLOPS

Verschiedenes

SM-Anzahl

Mehrere Streaming-Prozessoren (SPs) bilden zusammen mit anderen Ressourcen einen Streaming-Multiprozessor (SM), der auch als Hauptkern einer GPU bezeichnet wird. Zu diesen zusätzlichen Ressourcen gehören Komponenten wie Warp-Scheduler, Register und gemeinsamer Speicher. Der SM kann als Herz der GPU betrachtet werden, ähnlich wie ein CPU-Kern, wobei Register und gemeinsamer Speicher knappe Ressourcen innerhalb des SM sind.

132

10496

Shading-Einheiten

Die grundlegendste Verarbeitungseinheit ist der Streaming-Prozessor (SP), in dem spezifische Anweisungen und Aufgaben ausgeführt werden. GPUs führen paralleles Rechnen durch, was bedeutet, dass mehrere SPs gleichzeitig arbeiten, um Aufgaben zu verarbeiten.

16896

128 KB (per SM)

L1-Cache

256 KB (per SM)

6MB

L2-Cache

50MB

350W

TDP (Thermal Design Power)

700W

1.3

Vulkan-Version

Vulkan ist eine plattformübergreifende Grafik- und Rechen-API der Khronos Group, die hohe Leistung und geringen CPU-Overhead bietet. Es ermöglicht Entwicklern die direkte Steuerung der GPU, reduziert den Rendering-Overhead und unterstützt Multi-Threading und Multi-Core-Prozessoren.

3.0

OpenCL-Version

3.0

4.6

OpenGL

8.6

CUDA

9.0

12 Ultimate (12_2)

DirectX

1x 12-pin

Stromanschlüsse

8-pin EPS

112

ROPs

Die Raster-Operations-Pipeline (ROPs) ist hauptsächlich für die Handhabung von Licht- und Reflexionsberechnungen in Spielen verantwortlich, sowie für die Verwaltung von Effekten wie Kantenglättung (AA), hoher Auflösung, Rauch und Feuer. Je anspruchsvoller die Kantenglättung und Lichteffekte in einem Spiel sind, desto höher sind die Leistungsanforderungen für die ROPs. Andernfalls kann es zu einem starken Einbruch der Bildrate kommen.

6.6

Shader-Modell

750W

Empfohlene PSU (Stromversorgung)

1100W

Benchmarks

FP32 (float) / TFLOPS

GeForce RTX 3090

34.868