Tesla V100 SXM3 32 GB: mais potente que a SXM2, mas muito mais difícil de usar

A Tesla V100 SXM3 32 GB é um módulo de computação da NVIDIA para o supercomputador DGX-2 e servidores baseados na plataforma HGX-2. A NVIDIA apresentou o DGX-2 em março de 2018. O sistema tinha como base 16 aceleradores com arquitetura Volta, interligados por switches NVSwitch. Em relação à V100 SXM2 comum, a nova versão se diferenciava pelas frequências mais altas, pela maior largura de banda da memória e pelo limite de potência de 350 W.

A SXM3 supera a SXM2 em especificações, mas é consideravelmente menos adequada para montagem independente. O módulo usa um conector especial e exige alimentação e refrigeração compatíveis, enquanto seu funcionamento fora de uma plataforma de servidor praticamente não foi testado. Mesmo que seja possível conectar a SXM3 a um computador comum, a pequena vantagem de desempenho dificilmente compensará os custos.

Posição na linha

As quatro versões usam o mesmo chip GV100, com 5120 núcleos CUDA e 640 núcleos tensores. A diferença está nas frequências, nas configurações de alimentação e no método de conexão.

A SXM3 padrão alcança aproximadamente 16,4 TFLOPS em FP32 e 8,2 TFLOPS em FP64. Sua largura de banda de memória é 9% maior que a da SXM2, enquanto a frequência da GPU aumentou cerca de 4%. Essas diferenças dão à SXM3 uma vantagem em cálculos e tarefas limitadas pela velocidade da memória, embora o ganho efetivo dependa da carga de trabalho.

Para o DGX-2H, a NVIDIA preparou uma modificação mais potente, a SXM3-H. Seu limite foi aumentado para 450 W, e a largura de banda da memória chega a 1134 GB/s. Essa é a versão mais rápida da V100 no formato SXM.

DGX-2 e NVSwitch

A principal novidade do DGX-2 não foi a frequência mais alta da GPU, mas a forma como os aceleradores eram interligados.

No DGX-1, oito aceleradores SXM2 eram conectados diretamente por meio do NVLink. A topologia limitava a troca de dados entre determinados pares de GPUs. No DGX-2, dezesseis módulos SXM3 foram conectados a doze switches NVSwitch, proporcionando comunicação de alta velocidade entre todos os aceleradores.

O sistema tinha 512 GB de memória HBM2 no total. Cada GPU podia acessar a memória das demais, mas isso não transformava os dezesseis aceleradores em uma única GPU com um buffer local compartilhado. As latências de acesso à memória remota continuavam mais altas, e os aplicativos precisavam oferecer suporte a computação distribuída.

A largura de banda da interconexão entre as duas metades do sistema chegava a 2,4 TB/s. Para o treinamento de redes neurais grandes, isso era mais importante que o pequeno aumento na frequência dos módulos individuais.

O DGX-2 oferecia cerca de 2 PFLOPS nos núcleos tensores, consumia até 10 kW e custava US$ 399.000 no lançamento. A NVIDIA continuou desenvolvendo a arquitetura com NVSwitch nas gerações seguintes do DGX, incluindo o DGX A100.

Desempenho em tarefas modernas

Praticamente não existem testes independentes da V100 SXM3 em modelos de linguagem modernos. A maioria dos resultados disponíveis foi obtida com modelos SXM2 e PCIe, portanto ainda não é possível determinar com precisão a vantagem da SXM3 na geração de texto.

Como referência, a Tesla V100 SXM2 32 GB alcança cerca de 32 tokens/s ao gerar texto com o Qwen3.6-27B no formato Q4_K_M usando o llama.cpp. Esse é o resultado de uma única placa de vídeo, não de um sistema com várias GPUs.

A SXM3 oferece 9% mais largura de banda de memória, portanto teoricamente pode ser mais rápida durante a geração. No entanto, não é correto transferir diretamente essa porcentagem para a velocidade de geração de tokens. O resultado é influenciado pela quantização, pelo tamanho do contexto, pelo mecanismo de software e pelas características do modelo.

Em tarefas FP32 e FP64, as frequências mais altas também proporcionam uma vantagem. Porém, a arquitetura Volta fica atrás dos aceleradores mais novos em relação ao conjunto de formatos de computação compatíveis.

Principais limitações de software:

• CUDA: a arquitetura de computação sm_70 é compatível até a CUDA 12.9. A partir da CUDA 13, não é possível compilar novos kernels de GPU para Volta.
• Drivers: R580 é a última linha de drivers da NVIDIA com suporte à Volta.
• BF16: não há suporte de hardware, o que limita a compatibilidade com ferramentas modernas de treinamento de redes neurais.
• FlashAttention 2: a implementação oficial não oferece suporte à Volta. É necessário usar outros mecanismos de atenção.

A V100 ainda é capaz de executar LLMs localmente, mas o uso de modelos e bibliotecas novos às vezes exige compilações especiais.

É possível usar a SXM3 em um computador comum?

Ao contrário de uma placa PCIe, o módulo SXM3 não é instalado diretamente em um slot da placa-mãe. Ele foi projetado para placas de servidor especializadas com o conector, o sistema de alimentação e a refrigeração correspondentes.

No mercado de usados, há anúncios de adaptadores SXM3-PCIe por cerca de US$ 200-300. No entanto, alguns deles apresentam números de peça relacionados à SXM2. Ainda não há confirmações independentes suficientes de funcionamento estável de módulos SXM3 verdadeiros com esses adaptadores.

Antes da compra, é necessário verificar:

• Se a placa oferece suporte especificamente à SXM3, e não à SXM2.
• Se o sistema de alimentação suporta uma carga de até 350 W.
• Como é feita a refrigeração do módulo.
• Se a GPU é detectada pelo driver da NVIDIA e funciona sob carga prolongada.

Uma simples fotografia da placa ou uma declaração do vendedor sobre a compatibilidade não é suficiente. É recomendável obter os resultados do nvidia-smi, um teste CUDA e uma confirmação de funcionamento estável especificamente com a V100 SXM3.

No DGX-2 e no HGX-2, esses problemas não existem. Mas comprar um servidor inteiro por causa de alguns aceleradores ultrapassados é difícil de justificar. O DGX-2 exige uma infraestrutura robusta de alimentação e refrigeração, e sua eficiência energética é inferior à dos sistemas modernos baseados na A100 e em GPUs mais recentes.

Alternativas

Tesla V100 SXM2 32 GB. É a alternativa mais próxima, com a mesma quantidade de memória. No mercado de usados, havia vendas por cerca de US$ 450-700, embora as ofertas atuais possam ser consideravelmente mais caras. Existem adaptadores de SXM2 para PCIe e placas modificadas prontas com refrigeração. Ainda assim, é necessário considerar o custo do adaptador e a qualidade da modificação.

Tesla V100 PCIe 32 GB. É uma opção mais simples para um servidor compatível com PCIe. Com base em transações concluídas, a referência fica em aproximadamente US$ 650-850, mas no outono de 2026 muitos anúncios começam em US$ 850. A placa fica atrás da SXM3 em frequência e largura de banda de memória, mas não exige placas-mãe SXM especiais. Mesmo assim, precisa de alimentação adequada e refrigeração forçada.

Conclusão

A Tesla V100 SXM3 32 GB supera a SXM2 em frequência e largura de banda de memória, mas suas vantagens são quase totalmente anuladas pelas dificuldades de conexão.

Para o proprietário de um DGX-2 ou servidor HGX-2, o módulo continua sendo uma peça de reposição útil. Para uma montagem independente, ele só é interessante como experimento, que exige a verificação da compatibilidade do adaptador, da alimentação e da refrigeração.

Se você precisa de uma V100 com 32 GB de memória para redes neurais locais, é mais razoável escolher uma SXM2 com um adaptador testado ou uma versão PCIe pronta. A SXM3 só deve ser comprada quando houver uma plataforma de servidor compatível ou um kit de conexão funcional comprovado.