AMD Instinct MI300A vs NVIDIA H100 PCIe 80 GB

Resultado de comparação de GPU

Abaixo estão os resultados de uma comparação de placas de vídeo AMD Instinct MI300A e NVIDIA H100 PCIe 80 GB com base nas principais características de desempenho, bem como consumo de energia e muito mais.

Vantagens

  • Mais alto Relógio Boost: 2100MHz (2100MHz vs 1755MHz)
  • Maior Tamanho da Memória: 128GB (128GB vs 80GB)
  • Mais alto Largura de Banda: 5300 GB/s (5300 GB/s vs 2039 GB/s)
  • Mais recente Data de lançamento: December 2023 (December 2023 vs March 2022)

Básico

AMD
Nome do rótulo
NVIDIA
December 2023
Data de lançamento
March 2022
Professional
Plataforma
Professional
Instinct MI300A
Nome do modelo
H100 PCIe 80 GB
Instinct
Geração
Hopper
1000MHz
Relógio Base
1095MHz
2100MHz
Relógio Boost
1755MHz
PCIe 5.0 x16
Interface de ônibus
PCIe 5.0 x16
-
Transistores
80,000 million
-
Núcleos Tensor
?
Os Tensor Cores são unidades de processamento especializadas projetadas especificamente para aprendizado profundo, oferecendo maior desempenho de treinamento e inferência em comparação ao treinamento FP32.
456
-
TMUs
?
As Unidades de Mapeamento de Textura (TMUs) servem como componentes da GPU, capazes de girar, dimensionar e distorcer imagens binárias.
456
-
Fundição
TSMC
-
Tamanho do Processo
4 nm
-
Arquitetura
Hopper

Especificações de memória

128GB
Tamanho da Memória
80GB
HBM3
Tipo de Memória
HBM2e
8192bit
Barramento de Memória
?
A largura do barramento de memória se refere ao número de bits de dados que a memória de vídeo pode transferir em um ciclo de clock. Quanto maior a largura do barramento, maior a quantidade de dados que pode ser transmitida instantaneamente.
5120bit
5200MHz
Relógio de Memória
1593MHz
5300 GB/s
Largura de Banda
?
A largura de banda da memória se refere à taxa de transferência de dados entre o chip gráfico e a memória de vídeo. É medida em bytes por segundo.
2039 GB/s

Desempenho Teórico

-
Taxa de Pixel
?
A taxa de preenchimento de pixels refere-se ao número de pixels que uma unidade de processamento gráfico (GPU) pode renderizar por segundo, medida em MPixels/s ou GPixels/s.
42.12 GPixel/s
1496 GTexel/s
Taxa de Textura
?
A taxa de preenchimento de textura se refere ao número de elementos do mapa de textura (texels) que uma GPU pode mapear para pixels em um único segundo.
800.3 GTexel/s
980.6 TFLOPS
FP16 (metade)
?
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de meia precisão (16 bits) são usados em aplicações como aprendizado de máquina.
1513 TFLOPS
61.3 TFLOPS
FP64 (duplo)
?
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de precisão dupla (64 bits) são necessários para computação científica.
25.61 TFLOPS
120.148 TFLOPS
FP32 (flutuante)
?
Uma métrica importante para medir o desempenho da GPU é a capacidade de computação de ponto flutuante. Números de ponto flutuante de precisão simples (32 bits) são usados para tarefas comuns de processamento multimídia e gráfico, enquanto números de ponto flutuante de precisão dupla (64 bits) são necessários para computação científica que exige uma ampla faixa numérica e alta precisão. Números de ponto flutuante de meia precisão (16 bits) são usados para aplicações como aprendizado de máquina, onde uma precisão menor é aceitável.
50.196 TFLOPS

Diversos

-
Contagem de SM
?
Vários Processadores de Streaming (SPs), juntamente com outros recursos, formam um Multiprocessador de Streaming (SM), que também é referido como um núcleo principal da GPU.
114
14592
Unidades de Sombreamento
?
A unidade de processamento mais fundamental é o Processador de Streaming (SP), onde instruções e tarefas específicas são executadas. GPUs realizam computação paralela.
14592
16 KB (per CU)
Cache L1
256 KB (per SM)
16MB
Cache L2
50MB
760W
TDP
350W
-
Versão Vulkan
?
Vulkan é uma API gráfica e de computação multiplataforma do Khronos Group, que oferece alto desempenho e baixa sobrecarga de CPU. Ele permite que os desenvolvedores controlem a GPU diretamente, reduz a sobrecarga de renderização e oferece suporte a processadores multi-threading e multi-core.
N/A
-
Versão OpenCL
3.0
-
OpenGL
N/A
-
CUDA
9.0
-
DirectX
N/A
-
Conectores de Energia
1x 16-pin
-
ROPs
?
O Raster Operations Pipeline (ROPs) é responsável por lidar com cálculos de iluminação e reflexão em jogos, além de gerenciar efeitos como anti-aliasing (AA), alta resolução, fumaça e fogo.
24
-
Modelo de Shader
N/A
-
PSU Sugerido
750W

Classificações

FP32 (flutuante) / TFLOPS
Instinct MI300A
120.148 +139%
H100 PCIe 80 GB
50.196