NVIDIA Tesla P40: por qué ejecutar LLM en una tarjeta gráfica de 2016

La NVIDIA Tesla P40 apareció en 2016 como acelerador para servidores y redes neuronales. Diez años después, sigue llamando la atención gracias a sus 24 GB de memoria de vídeo. Es suficiente para ejecutar algunos modelos de lenguaje de 30-32 mil millones de parámetros que no caben en la memoria de vídeo de la mayoría de las GPU gaming económicas.

Sin embargo, la arquitectura Pascal limita notablemente el rendimiento. La Tesla P40 no tiene Tensor Cores, los cálculos en FP16 son lentos y su refrigeración pasiva requiere modificaciones para instalarla en un ordenador convencional. ¿Hasta qué punto resultan útiles sus 24 GB en 2026?

24 GB de memoria con arquitectura Pascal

La Tesla P40 está construida sobre el chip GP102, emparentado con el de la GeForce GTX 1080 Ti. Cuenta con 3840 núcleos CUDA y una frecuencia de GPU de 1303-1531 MHz. La tarjeta está equipada con memoria GDDR5, un bus de 384 bits y un ancho de banda de 346 GB/s.

A diferencia de la Tesla P100, que utiliza el chip GP100 y memoria HBM2, la P40 estaba orientada principalmente a la inferencia de redes neuronales. Su rendimiento en FP16 es de aproximadamente 0,19 TFLOPS, unas 64 veces menos que en FP32.

NVIDIA anunciaba para la P40 hasta 12 TFLOPS en FP32 y 47 TOPS en INT8. Sin embargo, estas cifras no se pueden convertir directamente en velocidad para los LLM actuales. El resultado depende del formato del modelo, de las operaciones de cálculo utilizadas y de la optimización del software.

Rendimiento en las pruebas de llama.cpp

En el caso de la Tesla P40, las pruebas de generación de texto son especialmente representativas. A continuación se muestran los resultados de llama.cpp con el modelo Llama 2 7B cuantizado en Q4_0.

Prueba llama-bench: procesamiento de 512 tokens de entrada (pp512) y generación de 128 tokens (tg128), CUDA sin Flash Attention. Los resultados se obtuvieron en sistemas y versiones distintas de llama.cpp, por lo que la comparación es orientativa.

Al generar texto, la Tesla P40 apenas queda por detrás de la P100, a pesar de su ancho de banda de memoria considerablemente menor. La RTX 3060 es aproximadamente un 38 % más rápida, mientras que la RTX 3090 es casi tres veces más rápida.

Al procesar la consulta de entrada, la diferencia es mayor: la RTX 3090 supera a la P40 en más de cinco veces. Esto se nota especialmente al trabajar con documentos largos, cuando es necesario procesar miles de tokens de entrada antes de generar la respuesta.

Sin embargo, Llama 2 7B cabe incluso en 8 GB de memoria de vídeo. Esta prueba muestra la velocidad de la GPU, pero no revela la principal ventaja de la P40: la posibilidad de ejecutar modelos más grandes.

Qué LLM caben en 24 GB

Un buen ejemplo es Qwen2.5-32B-Instruct. En formato GGUF con cuantización Q4_K_M, los pesos del modelo ocupan aproximadamente 19,9 GB. En la Tesla P40 queda espacio para la caché KV y los búferes de cálculo, aunque la longitud de contexto disponible depende de los ajustes de ejecución.

En una RTX 3060 de 12 GB, este modelo no cabrá por completo. Será necesario utilizar una cuantización más agresiva o trasladar parte de los cálculos a la memoria RAM.

Las posibilidades de la Tesla P40 dependen del tamaño y el formato del modelo:

• 7B-8B: hay memoria suficiente para Q4, Q8 y un contexto relativamente largo.
• 14B: muchos modelos caben incluso en Q8_0, dejando memoria para los datos auxiliares.
• 30B-32B: es posible ejecutarlos en Q4 con un tamaño adecuado de la caché KV y de los demás búferes.

No se debe confundir la capacidad con el rendimiento. Un modelo de 32 mil millones de parámetros requerirá muchos más cálculos que Llama 2 7B. Los resultados anteriores no se pueden utilizar para estimar su velocidad sin realizar pruebas específicas.

Para ejecutar localmente modelos GGUF cuantizados se puede utilizar llama.cpp con un backend CUDA compatible. Al procesar con frecuencia documentos grandes o trabajar simultáneamente con varios usuarios, las limitaciones de la P40 se hacen más evidentes.

Instalación en un ordenador convencional

La Tesla P40 está diseñada para servidores con refrigeración por aire forzado. La tarjeta no tiene ventilador propio y su consumo máximo alcanza los 250 W.

Durante la instalación hay que tener en cuenta lo siguiente:

• Refrigeración. Se necesita un flujo de aire dirigido a través del disipador, normalmente con un ventilador independiente y un conducto de aire.
• Alimentación. Utiliza un conector server CPU/EPS de 8 pines. No se puede conectar directamente un cable PCIe de 8 pines convencional en su lugar.
• Salidas de vídeo. No dispone de HDMI ni DisplayPort. Será necesario conectar el monitor a otro adaptador gráfico.
• Dimensiones. La placa mide aproximadamente 267 mm de largo y ocupa dos ranuras.

Existe otra limitación relacionada con el soporte de software. La Tesla P40 tiene Compute Capability 6.1. En CUDA Toolkit 13.0, NVIDIA dejó de ofrecer soporte para compilar aplicaciones para Pascal.

Para compilar programas para esta arquitectura se necesita CUDA Toolkit 12.9 o una versión compatible anterior. La última rama de controladores de NVIDIA compatible con Pascal es la R580, cuyo mantenimiento está previsto hasta junio de 2028.

Esto no significa que la P40 deje de funcionar después de esa fecha. Sin embargo, las nuevas versiones de las bibliotecas de cálculo pueden requerir GPU más modernas, por lo que la compatibilidad del software debe comprobarse por separado.

¿Vale la pena utilizar una Tesla P40 en 2026?

La Tesla P40 conserva su utilidad práctica gracias a sus 24 GB de memoria. Permite ejecutar LLM cuantizados que no caben en una RTX 3060 de 12 GB ni en una Tesla P100 de 16 GB. Al mismo tiempo, ambas tarjetas pueden ser más rápidas en tareas que no requieren una gran cantidad de memoria de vídeo.

La RTX 3090, con los mismos 24 GB, supera claramente a la P40 en velocidad de generación y procesamiento de consultas. La Tesla V100 también es considerablemente más rápida, pero la versión de 16 GB limita la elección de modelos grandes, mientras que la variante de 32 GB resuelve este problema.

Al elegir una P40 no hay que tener en cuenta únicamente el precio de la tarjeta. La refrigeración adicional, una fuente de alimentación adecuada, el consumo de hasta 250 W y la necesidad de utilizar un stack de software compatible aumentan los costes de funcionamiento.

La Tesla P40 tiene sentido si para ejecutar LLM localmente se necesitan precisamente 24 GB de memoria, no es imprescindible una gran velocidad y el coste del sistema completo es considerablemente inferior al de las alternativas. Para una estación de trabajo nueva pensada para un uso prolongado, es preferible una GPU más moderna.