AMD Instinct MI455X
AMD Instinct MI455X――432 GB HBM4とDeepSeek-R1での初期結果
2026年7月23日、AMDはニューラルネットワークの学習と実行向けサーバーラック「Helios」の一部として、Instinct MI455Xを発表した。MI455Xは直接液冷に対応するモジュールとして構成されている。1基のアクセラレーターに432 GBのHBM4を搭載し、72基のGPUで構成されるラック全体では、総容量が約31 TBに達する。
11月、AMDはHeliosシステムでDeepSeek-R1を実行した場合、MI455X 1基あたりに換算して21,333トークン/秒を達成したと報告した。11月12日、同社はこの数値をNVIDIA Vera Rubinの結果と比較し、最大30%の優位性を示した。4日後、Nebiusは同じモデルにおけるVera Rubinの新たな結果を公開し、GPU 1基あたりの平均で22,000トークン/秒を上回った。
MI455XとMI450Xの違い
Helios向けの両アクセラレーターは、CDNA 5アーキテクチャーを採用している。AMDが示すピークメモリ帯域幅は、どちらも23.3 TB/sで同じだ。MXFP4形式で40.3 PFLOPSなど、ピーク演算性能も一致している。両モデルの主な違いは、各GPUのローカルメモリに収められるデータ量にある。
| アクセラレーター | GPUあたりのHBM4容量 | HBM4スタック数 |
|---|---|---|
| AMD Instinct MI455X | 432 GB | 12 |
| AMD Instinct MI450X | 288 GB | 8 |
追加の144 GBは、モデルの重みが1基のアクセラレーターのメモリにわずかに収まりきらない場合に特に有用だ。MI455Xにモデル全体の1コピーを収められれば、サーバーはGPU間で中間結果を交換せずに、そのモデルへのリクエストを処理できる。別の活用方法として、長い対話用のキャッシュにより多くの領域を割り当てることもできる。
DeepSeek-R1は432 GBに収まるのか
DeepSeek-R1の基盤モデルには、追加のトークン予測モジュールを除いて約6710億個のパラメーターが含まれている。1トークンの生成時にモデルが使用するパラメーターは約370億個だが、次のトークンでは別のエキスパートを選択する可能性がある。モデル全体をロードするには、すべてのエキスパートの重みが必要になる。
- 1パラメーター当たり4ビットで理想的にパッキングした場合、重みの容量は約 335.5 GB(312.5 GiB) になる。これは付加データを含まない理論上の最小値だ。
- MXFP4では、32個の値からなる各グループに共有スケール用の1バイトがある。すべてのパラメーターをこの形式で保存すると、計算上の容量は 356.5 GB(332 GiB) に増える。
- コンテキスト長131,072トークンの1リクエストでは、BF16形式のコンパクトなDeepSeek-R1のMLAキャッシュに、さらに約 9.2 GB が必要になる。これは作業バッファーとソフトウェアのオーバーヘッドを考慮せず、モデル構成から算出した推定値だ。
これらの計算によれば、4ビットの重みは1基のMI455Xの公称メモリ容量に収まる一方、1基のMI450Xの容量を超える。MI455Xが同時に処理できる長いリクエストの数は、重みとキャッシュの実際の形式によって決まる。AMDは、21,333トークン/秒という結果をモデルの1基のGPUへの配置と結び付けられるほど、実行構成の詳細を明らかにしていない。
MI455X、MI355X、NVIDIA Vera RubinでのDeepSeek-R1
MLPerf Inference Offlineのシナリオでは、システムがすべてのリクエストを一度に受け取る。テストでは、全リクエストを合わせた生成速度を測定する。公開されているMLPerfの結果では、最後の列にシステム速度をアクセラレーター数で割った値を示している。MI455XのGPUあたりの数値は、AMDが自ら報告したものだ。
| システム | Offline結果の出典 | GPU数 | システム全体のトークン/秒 | GPUあたりのトークン/秒 |
|---|---|---|---|---|
| AMD Helios、Instinct MI455X | AMDラボ、11月 | 記載なし | - | 21,333 |
| NVIDIA Vera Rubin NVL72 | MLPerf v6.1、9月、Preview | 72 | 1,183,327 | 16,435 |
| Nebius、NVIDIA Vera Rubin NVL72 | MLPerf v6.1、11月、Available | 72 | 1,586,667 | 22,037 |
| Crusoe、AMD Instinct MI355X | MLPerf v6.1、9月 | 512 | 2,901,950 | 5,668 |
AMDは自社比較で、Vera Rubinの9月の結果を使用した。これに対してMI455Xの数値が約30%高いという主張は、実際に成立する。Nebiusが11月に公開した結果では、Rubin 1基あたりの平均値がすでにAMDの数値を3.3%上回っている。どちらの差も、特定のシステム同士を比較したものだ。MI455Xの結果は、MLCommonsの検証を受けていない社内テストで得られた。AMDはアクセラレーター数と計算精度を明らかにしていない。
インタラクティブサービスでは、応答時間に制限を設けた場合に、システムが何件のリクエストに対応できるかという別の問題もある。Serverシナリオでは、Nebiusの11月のラックが1,752,403トークン/秒を示した。AMDのMI455Xに関する11月の発表にはOfflineの結果しかないため、これらの発表から両システムの応答遅延を比較することはできない。
MI455Xが必要になる用途
MI455Xの最も分かりやすい用途は、1 GPUあたり288 GBでは収まりきらないモデルだ。追加メモリによって、1つのモデルコピーに必要なアクセラレーター数を減らしたり、サーバーでより多くの長い対話を同時に処理したりできる可能性がある。同じワークロードがMI450Xに収まるなら、上位モデルにはHBM4の帯域幅における仕様上の優位性はない。その場合の選択は、必要なコンテキスト長と許容できる初回トークン生成までの時間を条件に測定した速度と、構成全体のコストによって決まる。
GPUの比較
Instinct MI455Xを他のGPUsと比較
基本
メモリ仕様
ディスプレイとメディア
理論上の性能
AI機能
相互接続とスケーラビリティ
その他
ベンチマーク
他のGPUとの比較
ソーシャルメディアで共有する
または当サイトへのリンクを追加
<a href="https://cputronic.com/ja/gpu/amd-instinct-mi455x" target="_blank">AMD Instinct MI455X</a>