NVIDIA Tesla P40 と Tesla P100 PCIe 16 GB: AI、レンダリング、および計算に適したものはどれか

NVIDIA Tesla P40 と Tesla P100 は Pascal 世代に属しますが、異なる目的のために設計されています。P40 はインファレンス、仮想化、および単精度計算に重点を置いています。P100 は、高速な HBM2 メモリ、高い FP64 性能、加速された FP16 計算を持つ専門の HPC アクセラレーターです。

したがって、P40 の CUDA コア数が多いからといって、すべてのシナリオでより強力なカードであるとは限りません。

主な違い

Tesla P40 が優れている点

Tesla P40 は 3840 CUDA コア、24 GB のメモリ、より高いピーク FP32 性能を提供します。

主な実用的な利点は、ビデオメモリの容量です。追加の 8 GB により、より大きなモデル、シーン、およびデータセットを配置できます。これは、レンダリング、画像処理、および 16 GB に収まらないニューラルネットワークの実行に役立ちます。

P40 はまた、INT8 加速を最大 47 TOPS までサポートしています。したがって、すでに訓練されたモデルが大量のリクエストを処理するインファレンスのタスクに適しています。

P40 の強み：

• 24 GB のビデオメモリ；
• 高速 FP32；
• INT8 加速；
• 大規模なシーンのレンダリング；
• Tensor Cores を使用しないインファレンス。

P100 が HPC で高速な理由

Tesla P100 は、732 GB/s の帯域幅を持つ HBM2 メモリを使用しており、これは P40 の値よりも 2 倍以上高いです。これは、GPU がメモリと計算ブロック間で大容量のデータを常に転送するタスクでは特に重要です。

高い帯域幅は、線形代数、モデリング、工学計算、および科学アプリケーションに役立ちます。メモリの速度に制限されるアルゴリズムでは、P100 は P40 よりも低いピーク FP32 性能にもかかわらず、高速である場合があります。

P100 の主な利点は、フルの倍精度速度です。約 4.7 TFLOPS の FP64 を提供し、P40 ではこのモードが大幅に制限されます。科学および工学プログラムでは、結果の違いが数パーセントではなく、数倍になることもあります。

P100 は以下のタスクにおいて明らかに有利です：

• 物理および気候シミュレーション；
• 計算化学；
• 工学解析；
• 財務モデリング；
• 科学計算 FP64；
• メモリ速度に敏感なアルゴリズム。

ニューラルネットワークにはどちらを選ぶべきか

両方のカードは Tensor Cores の前に登場したため、現在の AI 負荷においては現代のアクセラレーターに比べて大きく劣ります。

P100 は、迅速な HBM2 と高い FP16 性能のため、モデルの訓練に適しています。P40 は、特に 24 GB のメモリや INT8 が重要な場合にはインファレンスに利用するのが理にかなっています。

ただし、結果はソフトウェアに大きく依存します。現代のフレームワークはますます Tensor Cores、BF16、および新しいアーキテクチャに最適化されているため、Pascal のポテンシャルがすべてのタスクで発揮されるわけではありません。

レンダリングと CUDA

レンダリングや一般的な CUDA 計算において、P40 はしばしば魅力的に見えます。FP32 の操作数と利用可能なメモリの容量で性能が決まる場面で優れています。

P100 は、アプリケーションがデータ転送の速度に制限される場合には前に出る可能性があります。したがって、最終的な結果は特定の負荷によって異なります。計算集約型の FP32 タスクでは P40 が強く、メモリを集中的に使用するアルゴリズムでは P100 が優れています。

両方のカードはパッシブ冷却を使用しており、強力な方向性のある気流を必要とします。追加の冷却がない一般的なケースではすぐに過熱します。ビデオ出力もないため、ゲーム用コンピュータには不便です。

今日購入する価値はあるのか

両モデルは陳腐化しており、Tensor Cores をサポートしていません。主に中古市場で特定のタスク用に検討すべきです。

Tesla P40 は 24 GB のビデオメモリ、手頃なインファレンス、レンダリングのために興味深いものです。Tesla P100 は、FP64、FP16、および高速な帯域幅 HBM2 が必要な場面で価値を保ちます。

購入時には、カードの状態、ドライバーとの互換性、電源要件、別途冷却が必要かどうかを考慮する必要があります。

結論

Tesla P40 は、インファレンス、レンダリング、および 24 GB のビデオメモリを必要とするタスクに適しています。 その利点は、高速な FP32、INT8 サポート、およびより大きなメモリ容量です。

Tesla P100 PCIe 16 GB は、HPC、FP64、FP16 およびメモリ帯域幅に依存する負荷において、大幅に優れています。 HBM2 とフルの倍精度ブロックにより、科学および工学計算用の専門アクセラレーターとなります。

P40 はメモリ容量と FP32/INT8 の選択です。P100 は、計算の精度とデータ転送速度が重要なタスクのためのツールです。