AMD Instinct MI455X

AMD Instinct MI455X
AMD Instinct MI455X グラフィックカードのレビュー

AMD Instinct MI455X――432 GB HBM4とDeepSeek-R1での初期結果

2026年7月23日、AMDはニューラルネットワークの学習と実行向けサーバーラック「Helios」の一部として、Instinct MI455Xを発表した。MI455Xは直接液冷に対応するモジュールとして構成されている。1基のアクセラレーターに432 GBのHBM4を搭載し、72基のGPUで構成されるラック全体では、総容量が約31 TBに達する。

11月、AMDはHeliosシステムでDeepSeek-R1を実行した場合、MI455X 1基あたりに換算して21,333トークン/秒を達成したと報告した。11月12日、同社はこの数値をNVIDIA Vera Rubinの結果と比較し、最大30%の優位性を示した。4日後、Nebiusは同じモデルにおけるVera Rubinの新たな結果を公開し、GPU 1基あたりの平均で22,000トークン/秒を上回った。

MI455XとMI450Xの違い

Helios向けの両アクセラレーターは、CDNA 5アーキテクチャーを採用している。AMDが示すピークメモリ帯域幅は、どちらも23.3 TB/sで同じだ。MXFP4形式で40.3 PFLOPSなど、ピーク演算性能も一致している。両モデルの主な違いは、各GPUのローカルメモリに収められるデータ量にある。

アクセラレーター GPUあたりのHBM4容量 HBM4スタック数
AMD Instinct MI455X 432 GB 12
AMD Instinct MI450X 288 GB 8

追加の144 GBは、モデルの重みが1基のアクセラレーターのメモリにわずかに収まりきらない場合に特に有用だ。MI455Xにモデル全体の1コピーを収められれば、サーバーはGPU間で中間結果を交換せずに、そのモデルへのリクエストを処理できる。別の活用方法として、長い対話用のキャッシュにより多くの領域を割り当てることもできる。

DeepSeek-R1は432 GBに収まるのか

DeepSeek-R1の基盤モデルには、追加のトークン予測モジュールを除いて約6710億個のパラメーターが含まれている。1トークンの生成時にモデルが使用するパラメーターは約370億個だが、次のトークンでは別のエキスパートを選択する可能性がある。モデル全体をロードするには、すべてのエキスパートの重みが必要になる。

  • 1パラメーター当たり4ビットで理想的にパッキングした場合、重みの容量は約 335.5 GB(312.5 GiB) になる。これは付加データを含まない理論上の最小値だ。
  • MXFP4では、32個の値からなる各グループに共有スケール用の1バイトがある。すべてのパラメーターをこの形式で保存すると、計算上の容量は 356.5 GB(332 GiB) に増える。
  • コンテキスト長131,072トークンの1リクエストでは、BF16形式のコンパクトなDeepSeek-R1のMLAキャッシュに、さらに約 9.2 GB が必要になる。これは作業バッファーとソフトウェアのオーバーヘッドを考慮せず、モデル構成から算出した推定値だ。

これらの計算によれば、4ビットの重みは1基のMI455Xの公称メモリ容量に収まる一方、1基のMI450Xの容量を超える。MI455Xが同時に処理できる長いリクエストの数は、重みとキャッシュの実際の形式によって決まる。AMDは、21,333トークン/秒という結果をモデルの1基のGPUへの配置と結び付けられるほど、実行構成の詳細を明らかにしていない。

MI455X、MI355X、NVIDIA Vera RubinでのDeepSeek-R1

MLPerf Inference Offlineのシナリオでは、システムがすべてのリクエストを一度に受け取る。テストでは、全リクエストを合わせた生成速度を測定する。公開されているMLPerfの結果では、最後の列にシステム速度をアクセラレーター数で割った値を示している。MI455XのGPUあたりの数値は、AMDが自ら報告したものだ。

システム Offline結果の出典 GPU数 システム全体のトークン/秒 GPUあたりのトークン/秒
AMD Helios、Instinct MI455X AMDラボ、11月 記載なし - 21,333
NVIDIA Vera Rubin NVL72 MLPerf v6.1、9月、Preview 72 1,183,327 16,435
Nebius、NVIDIA Vera Rubin NVL72 MLPerf v6.1、11月、Available 72 1,586,667 22,037
Crusoe、AMD Instinct MI355X MLPerf v6.1、9月 512 2,901,950 5,668

AMDは自社比較で、Vera Rubinの9月の結果を使用した。これに対してMI455Xの数値が約30%高いという主張は、実際に成立する。Nebiusが11月に公開した結果では、Rubin 1基あたりの平均値がすでにAMDの数値を3.3%上回っている。どちらの差も、特定のシステム同士を比較したものだ。MI455Xの結果は、MLCommonsの検証を受けていない社内テストで得られた。AMDはアクセラレーター数と計算精度を明らかにしていない。

インタラクティブサービスでは、応答時間に制限を設けた場合に、システムが何件のリクエストに対応できるかという別の問題もある。Serverシナリオでは、Nebiusの11月のラックが1,752,403トークン/秒を示した。AMDのMI455Xに関する11月の発表にはOfflineの結果しかないため、これらの発表から両システムの応答遅延を比較することはできない。

MI455Xが必要になる用途

MI455Xの最も分かりやすい用途は、1 GPUあたり288 GBでは収まりきらないモデルだ。追加メモリによって、1つのモデルコピーに必要なアクセラレーター数を減らしたり、サーバーでより多くの長い対話を同時に処理したりできる可能性がある。同じワークロードがMI450Xに収まるなら、上位モデルにはHBM4の帯域幅における仕様上の優位性はない。その場合の選択は、必要なコンテキスト長と許容できる初回トークン生成までの時間を条件に測定した速度と、構成全体のコストによって決まる。

GPUの比較

Instinct MI455Xを他のGPUsと比較

ドロップダウンリストからGPUを選択してください。

基本

レーベル名
AMD
プラットホーム
Professional
発売日
July 2026
Accelerated Compute Dies (XCD)
8
Cooling
Direct Liquid Cooling
Form Factor
EAM
GPU Lithography
TSMC 2nm / 3nm FinFET
I/O Dies (IOD)
2
Work Group Processors (WGP)
256
モデル名
AMD Instinct MI455X
世代
Instinct MI400 Series
ブーストクロック
2400 MHz
トランジスタ
320 billion
計算ユニット
256
ファウンドリ
TSMC
プロセスサイズ
2nm / 3nm FinFET
アーキテクチャ
CDNA 5

メモリ仕様

HBM Memory Stacks
12
HBM4 Interface Channels
192
Memory ECC
Yes
Memory Partitions
4
メモリサイズ
432 GB
メモリタイプ
HBM4
帯域幅
メモリバンド幅は、グラフィックチップとビデオメモリ間のデータ転送速度を指します。単位はバイト/秒で、計算式は次の通りです:メモリバンド幅 = 動作周波数 × メモリバス幅 / 8ビット。
23.3 TB/s

ディスプレイとメディア

AV1 Encode/Decode
AV1 decode (4 shared engines)
H.264 Hardware Encode/Decode
H.264 decode (4 shared engines)
H.265 HEVC Hardware Encode/Decode
H.265 decode (4 shared engines)
JPEG/MJPEG Codec Cores
40
Video Decoder Engines
4 shared engines (H.264, H.265, VP9, AV1)

理論上の性能

FP32 Matrix
315 TFLOPS
FP32 Vector
315 TFLOPS
FP16 (半精度)
GPUパフォーマンスを測定する重要な指標は浮動小数点計算能力です。半精度浮動小数点数(16ビット)は、精度が低くても許容可能な機械学習のようなアプリケーションで使用されます。単精度浮動小数点数(32ビット)は、一般的なマルチメディアやグラフィックス処理のタスクで使用され、倍精度浮動小数点数(64ビット)は、広範で高精度が求められる科学計算に必要です。
315 TFLOPS
FP64 (倍精度)
GPUパフォーマンスを測定する重要な指標は浮動小数点計算能力です。倍精度浮動小数点数(64ビット)は、広範で高精度が求められる科学計算に必要です。単精度浮動小数点数(32ビット)は、一般的なマルチメディアやグラフィックス処理のタスクで使用されます。半精度浮動小数点数(16ビット)は、精度が低くても許容可能な機械学習のようなアプリケーションで使用されます。
5 TFLOPS
FP32 (浮動小数点)
GPU のパフォーマンスを測定するための重要な指標は、浮動小数点コンピューティング能力です。 単精度浮動小数点数 (32 ビット) は一般的なマルチメディアおよびグラフィックス処理タスクに使用されますが、倍精度浮動小数点数 (64 ビット) は広い数値範囲と高精度が要求される科学計算に必要です。 半精度浮動小数点数 (16 ビット) は、精度が低くても許容される機械学習などのアプリケーションに使用されます。
315 TFLOPS

AI機能

AI Software Frameworks Supported by GPU
PyTorch, TensorFlow, JAX, ONNX Runtime, vLLM, SGLang, Triton, Kokkos, RAJA
BF16 Matrix
5033 TFLOPS
BF16 Matrix Sparse
10066 TFLOPS
FP16 Matrix
5033 TFLOPS
FP16 Matrix Sparse
10066 TFLOPS
FP8 Matrix
20133 TFLOPS
INT8 Matrix
5033 TOPS
INT8 Matrix Sparse
10066 TOPS
MXFP4
40265 TFLOPS
MXFP6
20133 TFLOPS
MXFP8
20133 TFLOPS

相互接続とスケーラビリティ

CPU-to-GPU Interconnect
256 GB/s
GPU Interconnect
UALink / UALoE
Scale-out Bandwidth
600 GB/s
Scale-up Bandwidth
3.6 TB/s

その他

Virtualization
SR-IOV
L2キャッシュ
192 MB

ベンチマーク

FP32 (浮動小数点)
スコア
315 TFLOPS

他のGPUとの比較

FP32 (浮動小数点) / TFLOPS
315 +0%
91.375 -71%
80.086 -74.6%
66.228 -79%