NVIDIA L40

NVIDIA L40

GPU 정보

NVIDIA의 L40 GPU는 탁월한 성능을 자랑하는 파워헤스입니다. 전문적인 응용 프로그램에 대한 견고한 선택으로 만들어진 인상적인 사양을 자랑합니다. 735MHz의 베이스 클럭 속도와 2490MHz의 부스트 클럭 속도로, 이 GPU는 고강도 작업에 대한 빠르고 효율적인 성능을 제공합니다. 덩치 큰 48GB의 GDDR6 메모리와 2250MHz의 메모리 클럭은 대규모 데이터 세트 및 복잡한 시뮬레이션을 쉽게 처리할 수 있도록 보장합니다. L40 GPU의 가장 인상적인 측면 중 하나는 18176개의 쉐이딩 유닛과 96MB의 L2 캐시이며, 이는 이론적인 성능이 90.52 TFLOPS에 이르는 놀라운 성능을 제공합니다. 이러한 처리 능력은 심층 학습, 과학적 시뮬레이션 및 복잡한 3D 렌더링과 같은 작업에 적합합니다. 뛰어난 성능에도 불구하고, L40 GPU는 합리적인 300W의 TDP 내에서 작동하여 상당히 전력을 효율적으로 사용합니다. 그러나 이 파워헤스를 최적으로 작동시키기 위해서는 능력 있는 냉각 솔루션이 필요하다는 점을 유의해야 합니다. 종합적으로, NVIDIA의 L40 GPU는 작업에 대한 타협 없는 성능을 요구하는 전문가들에게 최고의 선택지입니다. 높은 클럭 속도, 풍부한 메모리, 그리고 인상적인 이론적 성능의 조합은 다양한 전문적인 응용 분야에 대한 다재다능하고 신뢰할 수 있는 옵션을 만들어냅니다. 과학 연구, 콘텐츠 제작, 또는 AI 개발을 위해, L40 GPU는 작업을 완료하는 데 필요한 성능을 확실히 제공할 것입니다.

기초적인

라벨 이름
NVIDIA
플랫폼
Professional
출시일
October 2022
모델명
L40
세대
Tesla Ada
기본 클럭
735MHz
부스트 클럭
2490MHz
버스 인터페이스
PCIe 4.0 x16
트랜지스터
76,300 million
레이 트레이싱 코어
142
텐서 코어
?
Tensor Cores는 딥러닝을 위해 특별히 설계된 특수 처리 유닛으로, FP32 훈련과 비교하여 더 높은 훈련 및 추론 성능을 제공합니다. 이들은 컴퓨터 비전, 자연어 처리, 음성 인식, 텍스트 음성 변환 및 맞춤형 추천과 같은 영역에서 빠른 계산을 가능하게 합니다. Tensor Cores의 가장 주목할 만한 응용 분야는 DLSS (Deep Learning Super Sampling)와 잡음 감소를 위한 AI Denoiser입니다.
568
텍스처 매핑 유닛
?
텍스처 매핑 유닛(TMU)은 GPU의 구성 요소로서, 이진 이미지를 회전, 스케일링 및 왜곡하여 주어진 3D 모델의 임의의 평면에 텍스처로 배치할 수 있는 기능을 제공합니다. 이 과정을 텍스처 매핑이라고 합니다.
568
파운드리
TSMC
제조 공정 크기
4 nm
아키텍처
Ada Lovelace

메모리 사양

메모리 크기
48GB
메모리 타입
GDDR6
메모리 버스
?
메모리 버스 너비는 비디오 메모리가 한 클럭 주기 내에 전송할 수 있는 데이터의 비트 수를 의미합니다. 버스 너비가 크면 한 번에 전송되는 데이터 양이 많아지므로, 비디오 메모리의 중요한 매개 변수 중 하나입니다. 메모리 대역폭은 다음과 같이 계산됩니다: 메모리 대역폭 = 메모리 주파수 x 메모리 버스 너비 / 8. 따라서 메모리 주파수가 비슷한 경우, 메모리 버스 너비가 메모리 대역폭의 크기를 결정합니다.
384bit
메모리 클럭
2250MHz
대역폭
?
메모리 대역폭은 그래픽 칩과 비디오 메모리 간의 데이터 전송 속도를 의미합니다. 이는 초당 바이트로 측정되며, 계산하는 공식은 다음과 같습니다: 메모리 대역폭 = 작동 주파수 × 메모리 버스 너비 / 8 비트입니다.
864.0 GB/s

이론적 성능

픽셀 속도
?
픽셀 필률은 그래픽 처리 장치(GPU)가 초당 렌더링할 수 있는 픽셀 수를 나타내는 지표로, MPixels/s(백만 픽셀/초) 또는 GPixels/s(십억 픽셀/초) 단위로 측정됩니다. 그래픽 카드의 픽셀 처리 성능을 평가하는 가장 일반적으로 사용되는 측정 항목입니다.
478.1 GPixel/s
텍스처 속도
?
"Texture fill rate"은 GPU가 1초에 픽셀에 매핑할 수 있는 텍스처 맵 요소 (텍셀)의 수를 나타냅니다. "텍스처 채움 속도"는 GPU가 1초에 단일 픽셀에 매핑할 수 있는 텍스처 맵 요소 (텍셀)의 수를 의미합니다.
1414 GTexel/s
FP16 (반 정밀도)
?
GPU 성능을 측정하는 중요한 지표 중 하나는 부동 소수점 연산 능력입니다. 반 정밀도 부동 소수점 숫자(16비트)는 낮은 정밀도가 허용되는 기계 학습과 같은 응용 프로그램에 사용됩니다. 단 정밀도 부동 소수점 숫자(32비트)는 일반적인 멀티미디어 및 그래픽 처리 작업에 사용되며, 이중 정밀도 부동 소수점 숫자(64비트)는 넓은 숫자 범위와 높은 정확도를 요구하는 과학적 계산에 필요합니다.
90.52 TFLOPS
FP64 (배 정밀도)
?
GPU 성능을 측정하는 중요한 지표 중 하나는 부동 소수점 연산 능력입니다. 반 정밀도 부동 소수점 숫자(16비트)는 낮은 정밀도가 허용되는 기계 학습과 같은 응용 프로그램에 사용됩니다. 단 정밀도 부동 소수점 숫자(32비트)는 일반적인 멀티미디어 및 그래픽 처리 작업에 사용되며, 이중 정밀도 부동 소수점 숫자(64비트)는 넓은 숫자 범위와 높은 정확도를 요구하는 과학적 계산에 필요합니다.
1414 GFLOPS
FP32 (float)
?
GPU 성능을 측정하는 중요한 지표는 부동 소수점 컴퓨팅 기능입니다. 단정밀도 부동 소수점 숫자(32비트)는 일반적인 멀티미디어 및 그래픽 처리 작업에 사용되는 반면, 배정밀도 부동 소수점 숫자(64비트)는 넓은 숫자 범위와 높은 정확도를 요구하는 과학 컴퓨팅에 필요합니다. 반정밀도 부동 소수점 숫자(16비트)는 낮은 정밀도가 허용되는 기계 학습과 같은 응용 프로그램에 사용됩니다.
92.33 TFLOPS

여러 가지 잡다한

스트림 프로세서 개수
?
다중 스트리밍 프로세서(SP)는 다른 자원과 함께 스트리밍 다중프로세서(SM)를 형성하며, 이는 GPU의 주요 코어로도 알려져 있습니다. 이러한 추가 자원에는 워프 스케줄러, 레지스터 및 공유 메모리와 같은 구성 요소가 포함됩니다. SM은 GPU의 핵심이라고 할 수 있으며, CPU 코어와 유사하게 레지스터와 공유 메모리는 SM 내에서는 희소한 자원으로 간주됩니다.
142
새딩 유닛
?
가장 기본적인 처리 단위는 스트리밍 프로세서(SP)이며, 여기서 특정 명령과 작업이 실행됩니다. GPU는 병렬 컴퓨팅을 수행하며, 즉 여러 개의 SP가 동시에 작업을 처리하는 것을 의미합니다. "가장 기본적인 처리 단위는 스트리밍 프로세서(SP)이며, 여기서 특정 명령과 작업이 실행됩니다. GPU는 병렬 컴퓨팅을 수행하며, 다수의 SP가 동시에 작업을 처리합니다."
18176
L1 캐시
128 KB (per SM)
L2 캐시
96MB
TDP
300W
Vulkan 버전
?
Vulkan은 Khronos Group의 크로스 플랫폼 그래픽 및 컴퓨팅 API로, 높은 성능과 낮은 CPU 오버헤드를 제공합니다. 이를 통해 개발자는 GPU를 직접 제어하고, 렌더링 오버헤드를 줄이고, 멀티스레딩 및 멀티코어 프로세서를 지원할 수 있습니다.
1.3
OpenCL 버전
3.0
OpenGL
4.6
DirectX
12 Ultimate (12_2)
CUDA
8.9
전원 연결자
1x 16-pin
쉐이더 모델
6.6
렌더 출력 파이프라인
?
래스터 작업 파이프라인(ROPs)은 게임에서 조명 및 반사 계산을 처리하고 안티 앨리어싱(AA), 고해상도, 연기, 불 등과 같은 효과를 관리하는 것이 주된 역할입니다. 게임에서 안티 앨리어싱과 조명 효과가 더욱 요구되는 경우 ROPs의 성능 요구 사항이 더 높아질 수 있으며, 그렇지 않은 경우 프레임 속도가 급격히 감소할 수 있습니다.
192
권장 전원 공급 장치
700W

벤치마크

FP32 (float)
점수
92.33 TFLOPS
Blender
점수
4336
Vulkan
점수
249130
OpenCL
점수
292357

다른 GPU와 비교

FP32 (float) / TFLOPS
166.668 +80.5%
L40
92.33
70.374 -23.8%
62.546 -32.3%
51.381 -44.4%
Blender
12832 +195.9%
L40
4336
1222 -71.8%
203 -95.3%
Vulkan
254749 +2.3%
L40
249130
83205 -66.6%
54373 -78.2%
30994 -87.6%
OpenCL
362331 +23.9%
L40
292357
92041 -68.5%
66428 -77.3%
46137 -84.2%