Tesla P100 PCIe 12 GB: $80짜리 FP64 계산기, 지원 종료일이 정해진 카드

Tesla P100은 Pascal 아키텍처를 사용한 NVIDIA 최초의 가속기로, 20162017년 슈퍼컴퓨터와 신경망 학습에 사용된 주요 카드 중 하나였다. 당시 PCIe용 12GB 버전의 가격은 약 $4600이었다. 지금은 폐기된 서버에서 나온 카드가 eBay에서 $70140에 판매되며, 저가형 게이밍 그래픽카드보다도 저렴하다.

구매 이유는 배정밀도 연산 성능과 HBM2 메모리다. FP64 성능은 4.7 TFLOPS로 RTX 4090보다 높다. 하위 모델은 메모리 구성에서 불리하다. 4개의 HBM2 스택 중 하나가 비활성화되어 P100 16 GB보다 용량과 대역폭이 25% 낮다. Pascal의 모든 소프트웨어 지원은 2028년 중반 드라이버 브랜치 R580과 함께 종료된다.

제품군 내 위치와 아키텍처

모든 Tesla P100은 610mm² 면적의 16nm GP100 다이를 기반으로 하며, 네 개의 HBM2 스택과 함께 CoWoS 인터포저에 탑재된다. 풀 칩의 CUDA 코어 3840개 중 P100에서는 3584개가 활성화되어 있다. PCIe 버전은 250W TDP에서 1190~1329MHz로 작동한다.

12GB 버전은 메모리 스택 하나를 비활성화한 동일한 기판이다. 코어와 클록은 변하지 않았으므로 연산 성능은 상위 모델과 같다.

GP100 칩은 GeForce 제품에 사용되지 않았다. 워크스테이션용으로 가장 가까운 제품은 비디오 출력이 있는 Quadro GP100이다. GTX 1080 Ti와 Tesla P40은 다른 다이인 GP102를 기반으로 한다. GP100은 FP32의 절반 속도로 FP64를 처리하고 FP16은 두 배의 속도로 처리하지만, GP102에서는 두 모드가 모두 거의 사용할 수 없을 정도로 제한되어 있다. 반면 GP100(compute capability 6.0)에는 GP102에 있는 정수 스칼라 내적 명령어 DP4A가 없다. 양자화 신경망에서는 이것이 2016년에 예상했던 것보다 더 중요한 차이로 드러났다.

P100에는 텐서 코어가 없다. 텐서 코어는 2017년 Volta 아키텍처의 Tesla V100에서 처음 등장했다.

성능

게임용으로는 적합하지 않다. 비디오 출력이 없고, 두 번째 그래픽카드를 통해 화면을 출력했던 일부 사용자들도 데이터센터용 드라이버에 불만을 제기하며 게임용으로 P100을 권하지 않는다. P100이 여전히 활용되는 분야는 로컬 언어 모델과 배정밀도 계산이다.

CUDA용 llama.cpp 커뮤니티 종합 표(Llama 2 7B, Q4_0, Flash Attention 미사용):

P100의 생성 속도는 GTX 1080 Ti와 비슷한 수준이다. 프롬프트 처리는 RTX 2080 Ti보다 3.8배 느리고, 동일한 조건의 P40보다도 느리다. 짧은 채팅 요청에서는 감당할 수 있지만, 긴 문서에서는 모델이 응답하기 전에 텍스트를 읽는 시간이 눈에 띄게 길어진다.

ComputingForGeeks가 2026년 10월 최신 버전의 llama.cpp로 진행한 테스트에서도 같은 결과가 나왔다. Qwen3 8B의 Q4_K_M 설정에서 P100 16 GB는 38.4토큰/s를 기록해 P40의 47토큰/s보다 낮았다. P100의 메모리가 두 배 빠른데도 이런 결과가 나온 이유는 DP4A가 없기 때문이다. compute capability 6.0에서는 llama.cpp의 양자화 커널이 느린 경로로 실행된다.

따라서 12GB 버전의 축소된 메모리 버스는 언어 모델에서 거의 문제가 되지 않는다. Llama 2 7B 테스트에서 P100 16 GB의 메모리 처리량은 약 220GB/s로, 최대 대역폭의 3분의 1에도 못 미친다. 즉 병목은 연산에 있다. llama.cpp에서 하위 모델을 따로 측정한 결과는 없지만, 소형 모델에서는 생성 속도가 16GB 버전과 비슷할 것으로 보인다. 문제는 12GB라는 용량이다. gpt-oss-20b와 14B를 초과하는 밀집 모델은 메모리에 들어가지 않는다.

FP64에서는 상황이 반대다. RTX 4090의 배정밀도 성능은 약 1.3 TFLOPS이며, RTX 3090은 P100보다 10분의 1 수준이다. FP64 성능이 더 가까운 제품은 다음 세대의 서버 카드뿐이다. V100 PCIe는 7 TFLOPS, AMD Instinct MI50은 6.6 TFLOPS를 제공한다. 격자법이나 유체역학처럼 FP64 연산이 메모리에서 병목이 되는 계산에서는 12GB 버전이 상위 모델보다 최대 25% 느리다.

구체적인 시스템에서의 결과

12GB 버전만을 대상으로 공개된 테스트는 거의 없기 때문에, 표에는 같은 칩을 사용하는 16GB 모델의 결과도 포함되어 있다.

49.7토큰/s와 38.4토큰/s의 차이는 서버가 아니라 모델과 양자화 방식에서 비롯된다. 모델 전체가 비디오 메모리에 들어가면 CPU는 생성 속도에 거의 영향을 주지 않으며, 2013년형 Xeon E5 v2 플랫폼도 카드를 방해하지 않는다.

유휴 상태에서 P100은 28W, P40은 11W를 소비한다. LLM 부하에서는 P100의 소비전력이 최대 211W에 이른다.

사용처, 가격과 구입 가능성

P100을 탑재한 신제품은 판매되지 않는다. 과거에는 Dell PowerEdge R730, R740, C4130, C4140, Cisco UCS C240 M5와 C220 M5SX, HPE ProLiant 서버의 옵션으로 제공됐다. 현재 중고 시장에 나오는 제품도 대부분 이 서버에서 나온 것이며, 보통 케이블은 포함되지 않는다.

일반 PC에 카드를 설치하려면 몇 가지를 추가로 구매해야 한다.

BIOS에서 Above 4G Decoding 옵션을 활성화해야 한다. P100과 Blackwell 카드를 한 시스템에서 함께 사용하는 것도 불가능하다. 두 제품이 서로 다른 NVIDIA 커널 모듈을 필요로 하기 때문이다. 실제로 사용할 수 있는 상태의 P100 12 GB를 구성하면 최종 비용은 $110~150이 된다.

경쟁 제품과 대안

Tesla P100 PCIe 16 GB(약 $130155). 동일한 칩을 사용하며 메모리가 4GB 더 많고 대역폭이 3분의 1 높다. $4060을 더 지불하면 gpt-oss-20b, 충분한 컨텍스트를 사용할 수 있는 14B 모델, 메모리 대역폭이 병목인 작업에서의 전체 성능을 얻을 수 있다. 하위 버전이 더 유리한 경우는 용량이 중요하지 않은 FP64 계산뿐이다. 연산 성능은 같고 가격은 더 저렴하기 때문이다.

Tesla P40 24 GB(약 $300~350). 메모리가 두 배이고 DP4A를 지원한다. 32B 모델도 Q4 설정에서 전체가 들어가며 약 12토큰/s로 생성할 수 있다. FP16과 FP64 성능은 사실상 없으므로 계산용으로는 적합하지 않다. 14B를 초과하는 모델에는 어떤 P100보다 유용하다.

Tesla V100 PCIe 16 GB(약 $365). 텐서 코어가 있고 프롬프트 처리가 3~4배 빠르며 FP64 성능은 7 TFLOPS에 이른다. 지원 종료 시점은 Pascal과 같다. 세 배 더 많은 비용으로 같은 수명을 가진, 눈에 띄게 더 빠른 카드를 얻는 셈이다.

GeForce RTX 3060 12 GB(중고 약 $300~320). 메모리 용량은 같지만 최신 CUDA와 vLLM, 앞으로 출시될 PyTorch 버전을 사용할 수 있다. 비디오 출력과 일반적인 냉각 시스템이 있고 소비전력은 170W다. 텐서 코어가 프롬프트 처리를 크게 가속한다. 배정밀도 성능은 상징적인 수준이다. 몇 년 동안 지원될 소프트웨어를 사용할 수 있는 일반 그래픽카드가 필요하다면 RTX 3060이 더 유리하지만, 가격은 세 배다.

결론

언어 모델에서 P100 12 GB의 텍스트 생성 속도는 GTX 1080 Ti와 비슷하지만, 프롬프트 처리는 RTX 2080 Ti보다 34배 느리다. 4비트 양자화된 714B 모델과 구형 서버에서 Ollama 및 llama.cpp를 시험하는 용도로는 충분하다. 14B를 초과하는 모델은 들어가지 않으며 긴 프롬프트 처리도 느리다. vLLM은 지원되지 않고, PyTorch는 Pascal용 사전 빌드 제공을 중단한다고 발표했으며, 드라이버도 2028년에 더 이상 출시되지 않는다. 여기에 250W 소비전력과 시끄러운 블로어 팬까지 더해진다.

이 카드에 $80보다 많이 지불할 필요는 없다. 14B보다 큰 모델이 필요하다면 P40을, 2028년 이후에도 작동할 소프트웨어가 필요하다면 RTX 3060 12 GB를 고려하는 편이 낫다.

배정밀도 계산용으로는 $70~80 가격대의 P100 12 GB에 경쟁 제품이 거의 없다. 신경망용이라면 $50을 더 내고 16GB 버전을 구매하는 편이 낫다.