NVIDIA Tesla P40
vs
NVIDIA Tesla P100 PCIe 16 GB

vs
Grafikkartenvergleich NVIDIA Tesla P40 vs NVIDIA Tesla P100 PCIe 16 GB

GPU-Vergleichsergebnis

NVIDIA Tesla P40 vs Tesla P100 PCIe 16 GB: Was ist besser für KI, Rendering und Berechnungen

Die NVIDIA Tesla P40 und Tesla P100 gehören zur Pascal-Generation, wurden jedoch für unterschiedliche Aufgaben entwickelt. Die P40 ist auf Inferenz, Virtualisierung und Berechnungen mit einfacher Genauigkeit ausgelegt. Die P100 ist ein spezialisierter HPC-Beschleuniger mit schnellem HBM2-Speicher, hoher FP64-Leistung und beschleunigten FP16-Berechnungen.

Daher macht die größere Anzahl an CUDA-Kernen in der P40 sie nicht automatisch zu einer leistungsstärkeren Karte in allen Szenarien.

Hauptunterschiede

Merkmal Tesla P40 Tesla P100 PCIe 16 GB
CUDA-Kerne 3840 3584
Videospeicher 24 GB GDDR5 16 GB HBM2
Bandbreite 346 GB/s 732 GB/s
FP32 etwa 12 TFLOPS etwa 9,3 TFLOPS
FP64 stark eingeschränkt etwa 4,7 TFLOPS
FP16 ohne spürbaren Speedup etwa 18,7 TFLOPS
INT8 bis zu 47 TOPS nicht primär Mode
TDP 250 W 250 W

Wo die Tesla P40 stärker ist

Die Tesla P40 bietet 3840 CUDA-Kerne, 24 GB Speicher und eine höhere Spitzenleistung in FP32.

Der größte praktische Vorteil ist der Umfang des Videospeichers. Zusätzliche 8 GB ermöglichen die Verarbeitung größerer Modelle, Szenen und Datensätze. Dies ist nützlich beim Rendering, der Bildverarbeitung und beim Ausführen von neuronalen Netzen, die nicht in 16 GB passen.

Die P40 unterstützt auch INT8-Beschleunigung bis zu 47 TOPS. Daher eignet sie sich besser für Inferenzaufgaben, bei denen ein bereits trainiertes Modell eine große Anzahl von Anfragen verarbeitet.

Stärken der P40:

  • 24 GB Videospeicher;
  • hohe FP32-Geschwindigkeit;
  • INT8-Beschleunigung;
  • Rendering großer Szenen;
  • Inferenz ohne Tensor Cores.

Warum die P100 schneller in HPC ist

Die Tesla P100 verwendet HBM2-Speicher mit einer Bandbreite von 732 GB/s - mehr als doppelt so hoch wie bei der P40. Dies ist besonders wichtig in Aufgaben, bei denen die GPU kontinuierlich große Datenmengen zwischen Speicher und Recheneinheiten überträgt.

Eine hohe Bandbreite ist in der linearen Algebra, Simulationen, Ingenieurberechnungen und wissenschaftlichen Anwendungen von Vorteil. In Algorithmen, die durch die Geschwindigkeit des Speichers limitiert sind, könnte die P100 schneller sein, trotz der niedrigeren Spitzenleistung in FP32.

Der Hauptvorteil der P100 ist die vollwertige Leistung in doppelt dargestellten Zahlen. Sie liefert etwa 4,7 TFLOPS FP64, während dieser Modus bei der P40 stark beschnitten ist. In wissenschaftlichen und ingenieurtechnischen Programmen kann der Unterschied nicht nur in Prozenten, sondern um ein Vielfaches messbar sein.

Die P100 ist deutlich bevorzugt für:

  • Physik- und Klimasimulationen;
  • computational chemistry;
  • Ingenieuranalyse;
  • Finanzmodellierung;
  • wissenschaftliche Berechnungen in FP64;
  • Algorithmen, die empfindlich auf die Geschwindigkeit des Speichers reagieren.

Was für neuronale Netze wählen

Beide Karten wurden vor den Tensor Cores eingeführt und sind daher modernen Beschleunigern in aktuellen KI-Lasten deutlich unterlegen.

Die P100 eignet sich besser zum Trainieren von Modellen dank des schnellen HBM2-Speichers und der hohen FP16-Geschwindigkeit. Die P40 ist logischer für die Inferenz zu verwenden, insbesondere wenn 24 GB Speicher oder INT8 wichtig sind.

Das Ergebnis hängt jedoch stark von der Software ab. Moderne Frameworks sind immer häufiger auf Tensor Cores, BF16 und neuere Architekturen optimiert, sodass das Potenzial von Pascal nicht in allen Aufgaben vollständig ausgeschöpft wird.

Rendering und CUDA

Im Rendering und in allgemeinen CUDA-Berechnungen wirkt die P40 oft attraktiver. Sie punktet dort, wo die Leistung durch die Anzahl der FP32-Operationen und die verfügbare Speichermenge definiert ist.

Die P100 kann im Vorteil sein, wenn die Anwendung durch die Geschwindigkeit des Datenaustauschs limitiert ist. Daher hängt das Endergebnis von der spezifischen Last ab: Die P40 ist stärker in rechenintensiven FP32-Aufgaben, die P100 in Algorithmen mit speicherintensiver Verarbeitung.

Beide Karten verwenden passive Kühlung und benötigen einen starken gezielten Luftstrom. In einem normalen Gehäuse ohne separate Belüftung überhitzen sie schnell. Zudem gibt es keine Videoausgänge, sodass diese Beschleuniger für Gaming-PCs ungeeignet sind.

Lohnt es sich, sie heute zu kaufen

Beide Modelle sind veraltet und unterstützen keine Tensor Cores. Sie sollten vor allem auf dem Sekundärmarkt und nur für spezifische Aufgaben in Betracht gezogen werden.

Die Tesla P40 ist interessant wegen der 24 GB Videospeicher, kostengünstiger Inferenz und Rendering. Die Tesla P100 behält ihren Wert dort, wo FP64, FP16 und hohe HBM2-Bandbreite benötigt werden.

Bei einem Kauf sollten auch der Zustand der Karte, die Kompatibilität mit Treibern, die Anforderungen an die Stromversorgung und die Notwendigkeit einer separaten Kühlung berücksichtigt werden.

Fazit

Die Tesla P40 eignet sich besser für Inferenz, Rendering und Aufgaben, die 24 GB Videospeicher benötigen. Ihre Vorteile sind die hohe FP32-Geschwindigkeit, Unterstützung für INT8 und ein größeres Speichervolumen.

Die Tesla P100 PCIe 16 GB ist deutlich stärker in HPC, FP64, FP16 und Lasten, die von der Speichergeschwindigkeit abhängen. HBM2 und vollwertige Double-Precision-Einheiten machen sie zu einem spezialisierten Beschleuniger für wissenschaftliche und ingenieurtechnische Berechnungen.

Die P40 ist die Wahl für Speichervolumen und FP32/INT8. Die P100 ist das Werkzeug für Aufgaben, bei denen die Genauigkeit der Berechnungen und die Geschwindigkeit des Datenaustauschs wichtiger sind.

Vorteile

  • Höher Boost-Takt: 1531MHz (1531MHz vs 1329MHz)
  • Größer Speichergröße: 24GB (24GB vs 16GB)
  • Mehr Shading-Einheiten: 3840 (3840 vs 3584)
  • Neuer Erscheinungsdatum: September 2016 (September 2016 vs June 2016)
  • Höher Bandbreite: 732.2 GB/s (694.3 GB/s vs 732.2 GB/s)

Basic

NVIDIA
Markenname
NVIDIA
September 2016
Erscheinungsdatum
June 2016
Professional
Plattform
Professional
Tesla P40
Modellname
Tesla P100 PCIe 16 GB
Tesla Pascal
Generation
Tesla
1303MHz
Basis-Takt
1190MHz
1531MHz
Boost-Takt
1329MHz
PCIe 3.0 x16
Bus-Schnittstelle
PCIe 3.0 x16
11,800 million
Transistoren
15,300 million
240
TMUs
?
Textur-Mapping-Einheiten (TMUs) sind Komponenten der GPU, die in der Lage sind, Binärbilder zu drehen, zu skalieren und zu verzerren und sie dann als Texturen auf jede Ebene eines gegebenen 3D-Modells zu platzieren. Dieser Prozess wird als Textur-Mapping bezeichnet.
224
TSMC
Foundry
TSMC
16 nm
Prozessgröße
16 nm
Pascal
Architektur
Pascal

Speicherspezifikationen

24GB
Speichergröße
16GB
GDDR5X
Speichertyp
HBM2
384bit
Speicherbus
?
Der Speicherbus bezieht sich auf die Anzahl der Bits, die das Videomemory innerhalb eines einzelnen Taktzyklus übertragen kann. Je größer die Busbreite, desto mehr Daten können gleichzeitig übertragen werden, was sie zu einem der entscheidenden Parameter des Videomemory macht. Die Speicherbandbreite wird wie folgt berechnet: Speicherbandbreite = Speicherfrequenz x Speicherbusbreite / 8. Wenn also die Speicherfrequenzen ähnlich sind, bestimmt die Speicherbusbreite die Größe der Speicherbandbreite.
4096bit
1808MHz
Speichertakt
715MHz
694.3 GB/s
Bandbreite
?
Die Speicherbandbreite bezieht sich auf die Datenübertragungsrate zwischen dem Grafikchip und dem Videomemory. Sie wird in Bytes pro Sekunde gemessen, und die Formel zur Berechnung lautet: Speicherbandbreite = Arbeitsfrequenz × Speicherbusbreite / 8 Bit.
732.2 GB/s

Anzeige und Medien

No outputs
Ausgänge
No outputs

Theoretische Leistung

147.0 GPixel/s
Pixeltakt
?
Die Pixel-Füllrate bezieht sich auf die Anzahl der Pixel, die eine Grafikverarbeitungseinheit (GPU) pro Sekunde rendern kann, gemessen in MPixel/s (Millionen Pixel pro Sekunde) oder GPixel/s (Milliarden Pixel pro Sekunde). Es handelt sich dabei um die am häufigsten verwendete Kennzahl zur Bewertung der Pixelverarbeitungsleistung einer Grafikkarte.
127.6 GPixel/s
367.4 GTexel/s
Texture-Takt
?
Die Textur-Füllrate bezieht sich auf die Anzahl der Textur-Map-Elemente (Texel), die eine GPU in einer Sekunde auf Pixel abbilden kann.
297.7 GTexel/s
183.7 GFLOPS
FP16 (halbe Genauigkeit)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist. Einfach genaue Gleitkommazahlen (32 Bit) werden für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet, während doppelt genaue Gleitkommazahlen (64 Bit) für wissenschaftliches Rechnen erforderlich sind, das einen großen Zahlenbereich und hohe Genauigkeit erfordert.
19.05 TFLOPS
367.4 GFLOPS
FP64 (Doppelte Gleitkommazahl)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenleistung. Doppelt genaue Gleitkommazahlen (64 Bit) sind für wissenschaftliches Rechnen erforderlich, das einen großen Zahlenbereich und hohe Genauigkeit erfordert, während einfach genaue Gleitkommazahlen (32 Bit) für übliche Multimedia- und Grafikverarbeitungsaufgaben verwendet werden. Halbgenaue Gleitkommazahlen (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.
4.763 TFLOPS
11.995 TFLOPS
FP32 (float)
?
Eine wichtige Kennzahl zur Messung der GPU-Leistung ist die Gleitkomma-Rechenfähigkeit. Gleitkommazahlen mit einfacher Genauigkeit (32 Bit) werden für allgemeine Multimedia- und Grafikverarbeitungsaufgaben verwendet, während Gleitkommazahlen mit doppelter Genauigkeit (64 Bit) für wissenschaftliche Berechnungen erforderlich sind, die einen großen Zahlenbereich und hohe Genauigkeit erfordern. Gleitkommazahlen mit halber Genauigkeit (16 Bit) werden für Anwendungen wie maschinelles Lernen verwendet, bei denen eine geringere Genauigkeit akzeptabel ist.
9.335 TFLOPS

Verschiedenes

30
SM-Anzahl
?
Mehrere Streaming-Prozessoren (SPs) bilden zusammen mit anderen Ressourcen einen Streaming-Multiprozessor (SM), der auch als Hauptkern einer GPU bezeichnet wird. Zu diesen zusätzlichen Ressourcen gehören Komponenten wie Warp-Scheduler, Register und gemeinsamer Speicher. Der SM kann als Herz der GPU betrachtet werden, ähnlich wie ein CPU-Kern, wobei Register und gemeinsamer Speicher knappe Ressourcen innerhalb des SM sind.
56
3840
Shading-Einheiten
?
Die grundlegendste Verarbeitungseinheit ist der Streaming-Prozessor (SP), in dem spezifische Anweisungen und Aufgaben ausgeführt werden. GPUs führen paralleles Rechnen durch, was bedeutet, dass mehrere SPs gleichzeitig arbeiten, um Aufgaben zu verarbeiten.
3584
48 KB (per SM)
L1-Cache
24 KB (per SM)
3MB
L2-Cache
4MB
250W
TDP (Thermal Design Power)
250W
1.3
Vulkan-Version
?
Vulkan ist eine plattformübergreifende Grafik- und Rechen-API der Khronos Group, die hohe Leistung und geringen CPU-Overhead bietet. Es ermöglicht Entwicklern die direkte Steuerung der GPU, reduziert den Rendering-Overhead und unterstützt Multi-Threading und Multi-Core-Prozessoren.
1.3
3.0
OpenCL-Version
3.0
4.6
OpenGL
4.6
6.1
CUDA
6.0
12 (12_1)
DirectX
12 (12_1)
8-pin EPS
Stromanschlüsse
1x 8-pin
96
ROPs
?
Die Raster-Operations-Pipeline (ROPs) ist hauptsächlich für die Handhabung von Licht- und Reflexionsberechnungen in Spielen verantwortlich, sowie für die Verwaltung von Effekten wie Kantenglättung (AA), hoher Auflösung, Rauch und Feuer. Je anspruchsvoller die Kantenglättung und Lichteffekte in einem Spiel sind, desto höher sind die Leistungsanforderungen für die ROPs. Andernfalls kann es zu einem starken Einbruch der Bildrate kommen.
96
6.7
Shader-Modell
6.4
600W
Empfohlene PSU (Stromversorgung)
600W

Benchmarks

FP32 (float) / TFLOPS
Tesla P40
11.995 +28%
Tesla P100 PCIe 16 GB
9.335
Blender
Tesla P40
802
Tesla P100 PCIe 16 GB
1200 +50%
OctaneBench
Tesla P40
163
Tesla P100 PCIe 16 GB
217 +33%