Tesla V100 SXM3 32 GB: мощнее SXM2, но гораздо сложнее в использовании

Tesla V100 SXM3 32 GB - вычислительный модуль NVIDIA для суперкомпьютера DGX-2 и серверов на платформе HGX-2. NVIDIA представила DGX-2 в марте 2018 года. В его основе лежали 16 ускорителей с архитектурой Volta, объединённых через коммутаторы NVSwitch. От обычной V100 SXM2 новая версия отличалась повышенными частотами, пропускной способностью памяти и лимитом мощности 350 Вт.

SXM3 превосходит SXM2 по характеристикам, но для самостоятельной сборки подходит значительно хуже. Модуль использует специальный разъём, требует совместимого питания и охлаждения, а его работа вне серверной платформы практически не проверена. Даже если удастся подключить SXM3 к обычному компьютеру, небольшое преимущество в скорости вряд ли оправдает затраты.

Положение в линейке

У всех четырёх версий одинаковый кристалл GV100 с 5120 CUDA-ядрами и 640 тензорными ядрами. Разница заключается в частотах, настройках питания и способе подключения.

Стандартная SXM3 достигает примерно 16,4 TFLOPS в FP32 и 8,2 TFLOPS в FP64. Пропускная способность памяти на 9% выше, чем у SXM2, а частота GPU увеличена примерно на 4%. Эти различия дают SXM3 преимущество в вычислениях и задачах, ограниченных скоростью памяти, хотя фактический прирост зависит от нагрузки.

Для DGX-2H NVIDIA подготовила более мощную модификацию SXM3-H. Её лимит увеличен до 450 Вт, а пропускная способность памяти достигает 1134 ГБ/с. Это самая производительная версия V100 в SXM-исполнении.

DGX-2 и NVSwitch

Главным нововведением DGX-2 стала не повышенная частота GPU, а способ их объединения.

В DGX-1 восемь ускорителей SXM2 соединялись напрямую через NVLink. Топология ограничивала обмен данными между отдельными парами GPU. В DGX-2 шестнадцать модулей SXM3 подключили к двенадцати коммутаторам NVSwitch, обеспечив высокоскоростную связь между всеми ускорителями.

Система получила 512 ГБ суммарной памяти HBM2. Каждый GPU мог обращаться к памяти остальных, но это не превращало шестнадцать ускорителей в один GPU с общим локальным буфером. Задержки доступа к удалённой памяти оставались выше, а приложениям требовалась поддержка распределённых вычислений.

Пропускная способность межсоединения между половинами системы достигала 2,4 ТБ/с. Для обучения больших нейросетей это было важнее небольшого прироста частоты отдельных модулей.

DGX-2 обеспечивал около 2 PFLOPS на тензорных ядрах, потреблял до 10 кВт и стоил на старте $399 000. Архитектуру с NVSwitch NVIDIA продолжила развивать в последующих поколениях DGX, включая DGX A100.

Производительность в современных задачах

Отдельных независимых тестов V100 SXM3 в современных языковых моделях практически нет. Большинство доступных результатов получено на SXM2 и PCIe, поэтому точно определить преимущество SXM3 в генерации текста пока нельзя.

Для ориентира Tesla V100 SXM2 32 GB показывает около 32 токенов/с при генерации на Qwen3.6-27B в формате Q4_K_M с использованием llama.cpp. Это результат одной видеокарты, а не системы из нескольких GPU.

SXM3 располагает на 9% большей пропускной способностью памяти, поэтому теоретически может оказаться быстрее при генерации. Однако переносить этот процент напрямую на скорость выдачи токенов неправильно. На результат влияют квантование, размер контекста, программный движок и особенности модели.

В задачах FP32 и FP64 повышенные частоты также дают преимущество. Но архитектура Volta уступает более новым ускорителям по набору поддерживаемых вычислительных форматов.

Основные программные ограничения:

• CUDA: вычислительная архитектура sm_70 поддерживается до CUDA 12.9. Начиная с CUDA 13 компиляция новых GPU-ядер под Volta недоступна.
• Драйверы: R580 - последняя ветка NVIDIA с поддержкой Volta.
• BF16: аппаратная поддержка отсутствует, что ограничивает совместимость с современными средствами обучения нейросетей.
• FlashAttention 2: официальная реализация не поддерживает Volta. Приходится использовать другие механизмы внимания.

V100 по-прежнему способна работать с локальными LLM, но запуск новых моделей и библиотек иногда требует специальных сборок.

Можно ли использовать SXM3 в обычном компьютере

В отличие от PCIe-карты, модуль SXM3 не устанавливается непосредственно в слот материнской платы. Он рассчитан на специализированные серверные платы с соответствующим разъёмом, системой питания и охлаждением.

На вторичном рынке встречаются объявления о продаже переходников SXM3 - PCIe стоимостью около $200-300. Однако некоторые из них содержат номера деталей, относящиеся к SXM2. Независимых подтверждений стабильной работы настоящих модулей SXM3 с такими переходниками недостаточно.

Перед покупкой необходимо проверить:

• Поддерживает ли плата именно SXM3, а не SXM2.
• Выдерживает ли система питания нагрузку до 350 Вт.
• Как организовано охлаждение модуля.
• Определяется ли GPU драйвером NVIDIA и проходит ли длительную нагрузку.

Обычной фотографии платы или заявления продавца о совместимости недостаточно. Желательно получить результаты nvidia-smi, тест CUDA и подтверждение стабильной работы именно с V100 SXM3.

В составе DGX-2 и HGX-2 этих проблем нет. Но приобретение целого сервера ради нескольких устаревших ускорителей трудно оправдать. DGX-2 рассчитан на мощную инфраструктуру питания и охлаждения, а его энергоэффективность уступает современным системам на A100 и более новых GPU.

Альтернативы

Tesla V100 SXM2 32 GB. Ближайшая альтернатива с тем же объёмом памяти. На вторичном рынке встречались продажи примерно за $450-700, хотя актуальные предложения могут быть значительно дороже. Для SXM2 существуют переходники на PCIe и готовые модифицированные карты с охлаждением. При этом необходимо учитывать стоимость переходника и качество переделки.

Tesla V100 PCIe 32 GB. Более простой вариант для совместимого сервера с PCIe. По завершённым сделкам ориентир составляет примерно $650-850, но осенью 2026 года многие объявления начинаются от $850. Карта уступает SXM3 по частоте и пропускной способности памяти, зато не требует специальных SXM-плат. Ей всё равно нужны подходящее питание и принудительное охлаждение.

Вывод

Tesla V100 SXM3 32 GB превосходит SXM2 по частотам и пропускной способности памяти, но её преимущества почти полностью теряются на фоне сложностей с подключением.

Для владельца DGX-2 или сервера HGX-2 модуль остаётся полезной запасной частью. Для самостоятельной сборки он представляет интерес только как эксперимент, требующий проверки совместимости переходника, питания и охлаждения.

Если нужна V100 с 32 ГБ памяти для локальных нейросетей, разумнее выбрать SXM2 с проверенным переходником или готовую PCIe-версию. SXM3 стоит покупать только при наличии совместимой серверной платформы либо подтверждённого рабочего комплекта для подключения.