NVIDIA L40S vs NVIDIA L20: misma memoria, diferente rendimiento

NVIDIA L40S y L20 están construidas sobre la arquitectura Ada Lovelace y equipadas con 48 GB de memoria GDDR6 con ECC. Tienen un bus de 384 bits, un ancho de banda de 864 GB/s y una interfaz PCIe 4.0 x16. Según estas características, los modelos parecen similares, pero L40S pertenece a una clase notablemente más alta.

Dispone de más núcleos CUDA, Tensor y RT, lo que la hace más adecuada para IA generativa, inferencias pesadas, renderizado y estaciones de trabajo virtuales. L20 mantiene un gran volumen de memoria, pero cede considerablemente en velocidad de cálculo.

Principales diferencias

L40S contiene aproximadamente un 54% más de núcleos CUDA. Una ventaja comparable se observa en los cálculos FP32, y en las operaciones tensoriales la diferencia puede ser aún mayor.

¿Qué ofrecen 48 GB de memoria?

La principal ventaja de L20 es el mismo volumen de memoria de video que L40S. Esto permite cargar modelos de lenguaje grandes, escenas complejas, conjuntos de datos voluminosos y varias escritorios virtuales.

Sin embargo, el volumen de memoria determina, en primer lugar, si la tarea puede caber en el acelerador. La velocidad de ejecución depende de los bloques de cálculo y del rendimiento tensorial.

Ambas tarjetas pueden ejecutar el mismo modelo, pero L40S procesa las solicitudes más rápido, soporta un mayor flujo de usuarios y requiere menos tiempo para entrenar o ajustar modelos. El igual ancho de banda de memoria no compensa la diferencia en la potencia del GPU.

Inteligencia artificial

L40S está diseñada para cargas de trabajo de servidor mixtas: inferencia, entrenamiento de redes neuronales, IA generativa, procesamiento de video y visualización profesional. Soporta núcleos Tensor de cuarta generación, FP8 y Transformer Engine.

L20 es más sensata para escenarios más moderados:

• Inferencia con un número reducido de solicitudes simultáneas;
• Ejecución de modelos que requieren hasta 48 GB de memoria;
• Reentrenamiento periódico;
• Servidores con consumo de energía limitado.

En un servicio continuamente cargado, la ventaja de L40S se vuelve especialmente notable: un acelerador puede manejar más solicitudes sin aumentar el número de tarjetas.

Renderizado y estaciones de trabajo virtuales

L40S está equipada con 142 núcleos RT frente a los 92 de L20. Esto la hace más preferible para trazado de rayos, renderizado fotorrealista, gemelos digitales y escenas complejas en NVIDIA Omniverse.

Los núcleos CUDA adicionales aceleran la simulación, el procesamiento de geometría y las etapas computacionales del renderizado. Ambos modelos también son adecuados para estaciones de trabajo remotas de ingeniería, diseño y producción de medios.

L40S y L20 utilizan refrigeración pasiva, por lo que requieren un chasis de servidor con flujo de aire dirigido. Estas tarjetas no están diseñadas para una computadora de escritorio convencional sin un sistema de refrigeración especialmente organizado.

Consumo de energía y escalabilidad

La potencia máxima de L40S alcanza los 350 W, mientras que L20 consume alrededor de 300 W. En un servidor con múltiples tarjetas, la diferencia afecta a las fuentes de alimentación, la refrigeración y la densidad de colocación del equipo.

Sin embargo, L40S consume más, pero proporciona un rendimiento significativamente más alto por cada acelerador instalado.

Ambos modelos funcionan a través de PCIe y no soportan la unión de memoria a través de NVLink. En sistemas con múltiples GPU, el resultado, por lo tanto, depende de la topología PCIe, la plataforma del procesador y la optimización del software.

¿Qué elegir?

NVIDIA L40S debe considerarse si el acelerador se utilizará continuamente para IA generativa, inferencia de alta carga, entrenamiento de modelos, renderizado o varias estaciones de trabajo virtuales. Es notablemente más rápida y ofrece más rendimiento por cada ranura en el servidor.

NVIDIA L20 debe considerarse cuando la memoria de 48 GB es importante, pero no se requiere la máxima velocidad. Es adecuada para inferencia moderada, virtualización gráfica, procesamiento de video y visualización profesional.

No se puede considerar a L20 como un equivalente directo de L40S. Mantiene el mismo volumen de memoria y ancho de banda, pero pertenece a una clase inferior de rendimiento computacional. Para cargas moderadas, esto es suficiente, mientras que para sistemas constantemente cargados, L40S es visiblemente más preferible.