Tesla P100 DGXS: 데이터베이스에는 있지만 시장에는 없는 가속기

NVIDIA Tesla P100 DGXS는 16GB HBM2, 1328~1480MHz의 클록과 300W의 전력 소비를 갖춘 별도 모델로 그래픽카드 카탈로그에 등장한다. 그러나 이러한 사양을 담은 공식 문서나 독립적인 테스트, 이 버전의 확인된 판매 사례는 찾을 수 없었다. 한편 P100-DGXS라는 명칭은 NVIDIA 드라이버에 존재하며, 회사의 진단 소프트웨어에서는 DGX Station과 관련된 GP100 추가 구성도 확인된다.

따라서 P100 DGXS는 특이한 사례다. 해당 식별자의 존재는 확인됐지만, 실제 보드가 출시된 경위는 여전히 불분명하다.

P100 DGXS는 다른 Tesla P100과 어떻게 다른가

모든 Tesla P100은 Pascal 아키텍처 기반의 16nm GP100 프로세서와 3584개의 CUDA 코어를 사용한다. 양산 버전은 HBM2 용량, 클록, 전력 소비량, 연결 방식에서 차이를 보인다.

카탈로그에 기재된 DGXS의 사양은 사실상 P100 SXM2의 사양을 그대로 반복한다. 두 모델의 유사성을 근거로 옮겨 적었을 가능성은 있지만, 이 버전에 대한 NVIDIA의 공식 사양은 찾을 수 없었다.

DGXS의 클록이 실제로 SXM2와 같았다는 점조차 확인되지 않았다. 따라서 카탈로그에 게시된 수치를 바탕으로 정확한 성능을 비교해서는 안 된다.

NVIDIA 문서에 남아 있는 P100 DGXS의 흔적

이 구성의 존재를 보여 주는 가장 확실한 증거는 PCI\VEN_10DE&DEV_15FC 식별자다. 2017년 6월자 NVIDIA Windows 드라이버 데이터베이스에는 이 식별자가 Tesla P100-DGXS-16GB로 기재되어 있다.

서버 가속기의 진단 설정을 포함한 공식 NVIDIA DCGM 저장소에서도 추가 정보를 확인할 수 있다.

여기에는 다음과 같은 두 개의 관련 항목이 있다.

• 15FA - DGX Station. 진단 테스트의 목표 전력이 249W로 설정된 GP100 구성.
• 15FC - GP100 SKU 201. 테스트 목표 전력이 299W로 설정된 별도 구성.

두 번째 식별자는 드라이버 데이터베이스에 있는 Tesla P100-DGXS-16GB와 일치한다. 그러나 DCGM의 전력 값은 진단 테스트에 부하를 가하기 위한 설정이며, 정격 TDP를 의미하지는 않는다.

즉, NVIDIA가 DGX Station이라는 명칭의 변형을 포함해 여러 GP100 구성을 실제로 마련한 것은 분명하다. 하지만 소프트웨어의 기록만으로는 물리적인 보드가 몇 장 제작됐는지, 실제 고객에게 공급됐는지를 확인할 수 없다.

NVIDIA DGX Station과의 연관성

P100 DGXS의 이력은 시기 문제로 더욱 복잡해진다. Tesla P100은 2016년 4월 DGX-1 서버와 함께 발표됐다. 그러나 NVIDIA가 DGX Station을 공식 발표한 시점은 2017년 5월 10일이었다.

DGX Station은 최초 발표에서 NVLink로 연결된 16GB HBM2 탑재 Tesla V100 4개를 장착했다. 이 시스템에는 수랭식 냉각이 적용됐으며, 가격은 $69 000로 책정됐다.

그런데 2017년 10월, ServeTheHome은 초기 단계의 DGX Station이 P100 4개를 사용했으며 이후 V100으로 전환했다고 보도했다. 이는 이미 Volta 가속기가 등장했던 NVIDIA의 최초 공식 발표 내용과 일치하지 않는다.

프로토타입이나 출시 전 구성을 가리킨 것일 가능성은 있지만, 그러한 공급을 입증하는 공개 문서는 찾을 수 없었다.

따라서 카탈로그에 등장하는 P100 DGXS의 출시일인 2016년 4월을 확인된 사실로 볼 수는 없다. 이 날짜는 GP100의 등장 시점과 관련된 것이지, DGXS 모델이 실제로 출시된 시점을 의미하지 않는다.

성능: 무엇을 확인할 수 있는가

Tesla P100 DGXS 자체의 공개 테스트 결과는 찾을 수 없었다. GP100 아키텍처의 성능을 평가하기 위해서는 양산형 P100 PCIe 16 GB의 측정 결과를 참고할 수 있다.

커뮤니티가 공개한 llama.cpp 비교 자료에는 Llama 7B Q4_0 모델을 실행했을 때 여러 구체적인 GPU에서 얻은 결과가 포함되어 있다.

높을수록 좋다. 데이터는 llama.cpp 커뮤니티 참여자들이 공개했다. 하나의 모델을 사용했지만 테스트 시스템과 프로그램 버전은 서로 달랐다. Tesla P100의 결과는 DGXS가 아닌 PCIe 버전에 해당한다.

이 테스트에서 P100은 생성 속도에서는 GTX 1080 Ti에 거의 뒤지지 않지만, 프롬프트 처리에서는 크게 뒤처진다. 그 이유 중 하나는 GP100에 양자화 데이터 연산을 가속하는 DP4A 명령어가 없다는 점이다.

HBM2의 높은 대역폭도 이 한계를 보완하지 못한다. SXM2와 같은 클록을 사용했더라도, 정체가 확인되지 않은 DGXS 버전에는 누락된 명령어가 추가되지 않았을 것이다.

다만 GP100에는 또 다른 장점인 FP64 연산 성능이 있다. 양산형 P100 SXM2는 배정밀도 연산에서 5,3 TFLOPS에 도달하고, PCIe 버전은 4,7 TFLOPS를 기록한다. 따라서 일부 과학 계산 작업에서는 여전히 매력적인 선택이지만, DGXS의 정확한 성능은 확인할 수 없다.

2026년의 소프트웨어 지원

모든 GP100 가속기는 CUDA 컴퓨트 능력 6.0을 지원한다. 최신 머신러닝 라이브러리에서는 이것이 심각한 제약이 되고 있다.

Pascal용 애플리케이션 컴파일을 허용하는 최신 CUDA Toolkit 버전은 12.9다. CUDA 13부터는 이 아키텍처를 대상으로 한 컴파일 지원이 삭제됐다. Pascal을 지원하는 NVIDIA의 최신 드라이버 브랜치는 R580이며, 지원은 2028년에 종료될 예정이다.

호환되는 드라이버를 사용하면 기존 CUDA 프로그램은 계속 작동하지만, 새로운 PyTorch 빌드와 기타 라이브러리는 GP100을 지원하지 않을 수 있다. Tensor Cores가 없다는 점도 신경망 연산 성능을 추가로 제한한다.

로컬 언어 모델에서는 16GB HBM2가 여전히 유용하지만, 이제는 메모리 용량과 대역폭만 보고 가속기를 선택하기에는 충분하지 않다.

P100 DGXS를 구매할 수 있는가, 대체품은 무엇인가

공개된 중고 시장에서는 Tesla P100 DGXS의 확인된 판매 매물을 찾을 수 없었다. 물리적인 설계의 세부 사항도 알려지지 않았다. 장치 식별자 하나만으로는 커넥터의 배치, 냉각 시스템, 일반 메인보드와의 호환성을 판단할 수 없기 때문이다.

GP100 아키텍처 기반 가속기가 필요하다면 다음과 같이 더 예측 가능한 선택지가 있다.

• Tesla P100 PCIe 16 GB. 표준 PCIe 연결, 16GB HBM2, 최대 4,7 TFLOPS의 FP64 성능을 제공한다. 강한 방향성 풍량과 적절한 전원 공급이 필요하다.
• Tesla P100 SXM2 16 GB. 더 높은 성능과 호환 서버에서의 NVLink 지원을 제공한다. 일반 컴퓨터에서는 어댑터와 별도의 냉각 장치가 필요하다.
• Tesla V100 SXM2 16 GB. Volta 아키텍처, Tensor Cores, 최대 7,8 TFLOPS의 FP64 성능을 제공한다. 호환되는 머신러닝 작업에는 훨씬 더 매력적이지만, 역시 특수한 연결 방식이 필요하다.

최신 로컬 LLM을 실행하려면 비디오 메모리 용량이 더 작더라도 Tensor Cores와 더 새로운 아키텍처를 갖춘 GeForce RTX가 더 실용적인 경우가 많다.

결론

Tesla P100 DGXS는 NVIDIA의 소프트웨어 생태계에 실제로 존재하는 명칭이지만, 문서로 확인된 양산 모델은 아니다. 드라이버와 DCGM의 식별자는 별도의 GP100 구성들이 존재했음을 보여 주지만, 이들의 상업적 출시 여부와 실제 하드웨어 구성은 알려지지 않았다.

추가적인 증거 없이 DGXS에 P100 SXM2의 사양을 그대로 적용하는 것은 부정확하다. 과학 계산과 CUDA 실험을 위해서는 사양이 알려져 있고 테스트 결과도 확인할 수 있는 양산형 P100 PCIe 또는 SXM2를 선택하는 편이 낫다.

P100 DGXS는 2026년에 실용적인 구매 옵션이라기보다 NVIDIA DGX 역사의 잘 알려지지 않은 한 부분이라는 점에서 더욱 흥미롭다.