NVIDIA L40S vs NVIDIA L20: memória igual, desempenho diferente

NVIDIA L40S e L20 são construídas na arquitetura Ada Lovelace e equipadas com 48 GB de memória GDDR6 com ECC. Ambas possuem um barramento de 384 bits, uma largura de banda de 864 GB/s e um interface PCIe 4.0 x16. Com base nessas características, os modelos parecem próximos, mas o L40S pertence a uma classe significativamente mais alta.

Ela possui mais núcleos CUDA, Tensor e RT, o que a torna mais adequada para IA generativa, cargas de inferência intensas, renderização e estações de trabalho virtuais. O L20 mantém uma grande quantidade de memória, mas é significativamente inferior em termos de velocidade de computação.

Principais diferenças

O L40S possui cerca de 54% mais núcleos CUDA. Uma vantagem comparável é observada em cálculos FP32, e em operações tensoras o desvio pode ser ainda maior.

O que significam 48 GB de memória

A principal vantagem do L20 é ter a mesma quantidade de memória de vídeo que o L40S. Isso permite carregar modelos de linguagem grandes, cenas complexas, conjuntos de dados volumosos e várias áreas de trabalho virtuais.

No entanto, a quantidade de memória determina, acima de tudo, se a tarefa caberá no acelerador. A velocidade de execução depende dos blocos de computação e do desempenho tensorial.

Ambas as placas podem executar o mesmo modelo, mas o L40S processa as solicitações mais rapidamente, suporta um maior fluxo de usuários e requer menos tempo para treinamento ou re-treinamento. A largura de banda de memória igual não compensa a diferença de potência da GPU.

Inteligência artificial

O L40S é otimizado para cargas de trabalho de servidor misturadas: inferência, treinamento de redes neurais, IA generativa, processamento de vídeo e visualização profissional. Ele suporta núcleos Tensor de quarta geração, FP8 e Transformer Engine.

O L20 é mais adequado para cenários mais moderados:

• Inferência com baixo número de solicitações simultâneas;
• Execução de modelos que requerem até 48 GB de memória;
• Re-treinamento periódico;
• Servidores com consumo de energia limitado.

Em um serviço constantemente carregado, a vantagem do L40S se torna particularmente visível: um único acelerador pode atender a mais solicitações sem aumentar o número de placas.

Renderização e estações de trabalho virtuais

O L40S está equipado com 142 núcleos RT, contra 92 no L20. Isso a torna mais adequada para ray tracing, renderização fotorrealística, gêmeos digitais e cenas complexas no NVIDIA Omniverse.

Os núcleos CUDA adicionais aceleram a simulação, processamento de geometria e etapas computacionais da renderização. Ambos os modelos também são adequados para estações de trabalho remotas de engenharia, design e produção de mídia.

L40S e L20 utilizam resfriamento passivo, portanto, precisam de um chassi de servidor com fluxo de ar direcionado. Para um computador desktop comum sem resfriamento especialmente organizado, essas placas não são adequadas.

Consumo de energia e escalabilidade

A potência máxima do L40S atinge 350 W, enquanto o L20 consome cerca de 300 W. Em um servidor com várias placas, a diferença impacta as fontes de alimentação, resfriamento e densidade de colocação do equipamento.

Nesse cenário, o L40S consome mais, mas oferece um desempenho significativamente mais alto por acelerador instalado.

Ambos os modelos operam via PCIe e não suportam agregação de memória através do NVLink. Portanto, em sistemas com várias GPUs, o resultado depende da topologia PCIe, da plataforma do processador e da otimização do software.

O que escolher

A NVIDIA L40S deve ser escolhida se o acelerador for utilizado constantemente para IA generativa, inferência de alta carga, treinamento de modelos, renderização ou várias estações de trabalho virtuais. Ela é substantivamente mais rápida e oferece mais desempenho por slot de servidor.

A NVIDIA L20 deve ser considerada quando 48 GB de memória são importantes, mas a velocidade máxima não for necessária. Ela é adequada para inferência moderada, virtualização gráfica, processamento de vídeo e visualização profissional.

O L20 não pode ser considerado um equivalente direto do L40S. Ela mantém a mesma quantidade de memória e largura de banda, mas pertence a uma classe inferior de desempenho computacional. Para cargas moderadas, isso é suficiente, enquanto para sistemas constantemente carregados, o L40S é claramente preferível.