AMD Instinct MI450X
AMD Instinct MI450X――Heliosラック向け、288 GB HBM4搭載サーバーアクセラレーター
2026年11月12日、AMDはニューラルネットワークの学習と学習済みモデルの実行を想定した、MI400シリーズのサーバー向けGPU「Instinct MI450X」を発表した。このアクセラレーターは、直接液冷に対応したモジュールとして構成される。AMD Heliosラックには、このGPUを72基搭載できる。
MI450Xは8スタックのHBM4を搭載し、総容量は288 GBとなる。上位モデルのMI455Xは12スタックで、容量は432 GBだ。両モデルともCDNA 5アーキテクチャーを採用している。AMDは、両モデルについて同じピーク演算性能と、最大23.3 TB/sのメモリ帯域幅を示している。DeepSeek-R1におけるMI450X自体の速度については、現時点で分かっていることが少ない。発表時に公開された結果はMI455Xに関するものだった。メモリ容量の差については、モデルの重みとキャッシュを例に、すでに評価できる。
DeepSeek-R1は1基のMI450Xに収まるか
DeepSeek-R1のメインモデルには、追加の複数トークン予測(MTP)モジュールを除いて、約671 billion個のパラメーターがある。1トークンの処理時に使われるのは約37 billion個のパラメーターだ。次のトークンではモデルが別のエキスパートを選ぶ可能性があるため、GPUメモリに完全にロードするには、すべてのエキスパートの重みが必要になる。
パラメーターあたり4ビットで理想的にパッキングした場合、重みだけで約335.5 GB、または312.5 GiBを占める。これは補助データを含まない下限値だ。仕様上の288 GBを288 GiBと解釈したとしても、重みには1基を超えるMI450Xが必要になる。MI455Xは、単位をどちらの解釈にしても、定格容量だけで重みを収められる。モデルを実行するには、ワークバッファーとコンテキスト用のメモリも必要だ。
保存形式も計算結果に大きく影響する。MXFP4では、32個の4ビット値ごとに共有スケールが1バイト必要になる。671 billion個のパラメーターをすべてこの形式にパッキングすると、約356.5 GB、または332 GiBになる。実際のサイズは、実装によってどのレイヤーをより高い精度で保持するかなどにも左右される。
コンテキストもメモリを消費する。例えば、コンパクトなMLAキャッシュをBF16で使用するDeepSeek-R1では、131,072トークンの1リクエストに約9.2 GBのキャッシュデータが必要になる。これは、プログラムのオーバーヘッドを含めず、61レイヤーを対象にした計算だ。この数値から長い対話に必要な容量の規模は見積もれるが、同時に処理できるリクエスト数を判断するには、実際に稼働しているサーバーでの測定が必要になる。
288 GBで十分な場合
- 700億パラメーターのモデルでは、重みをBF16で保存すると約140 GBになる。1基のMI450Xには、キャッシュとワークバッファー用の空きが残る。必要なコンテキスト長に対して十分な容量があるなら、残りのGPUでモデルの別のコピーを処理できる。
- 長い対話を大量に処理する場合、サーバーはキャッシュ用のメモリを使い切る可能性がある。この場合、MI455Xの追加のHBM4によって、より多くのリクエストを同時に処理できる。
- キャッシュを含むモデルが1基のGPUに収まる場合、デプロイは容易になる。そのコピーでは、アクセラレーター間のデータ交換が不要だからだ。負荷時の最大速度は別の問題となる。1基のアクセラレーターでメモリが足りていても、複数のGPUに計算を分散したほうが有利な場合がある。
DeepSeek-R1のテスト結果が示すこと
MLPerf Inference Offlineでは、システムがすべてのリクエストを一度に受け取る。テストでは、出力トークンの生成速度の合計を測定する。MI455Xについては、AMDのラボが結果を1基のGPUあたりに換算した形で公開している。NVIDIAシステムについては、最後の列の平均値を、システムの結果をアクセラレーター数で割って算出している。
| システム | 結果の出典 | GPU数 | Offline、システムあたりのトークン/秒 | Offline、GPUあたりのトークン/秒 |
|---|---|---|---|---|
| AMD Helios(Instinct MI450X搭載) | 2026年11月18日時点でデータなし | - | - | - |
| AMD Helios(Instinct MI455X搭載) | AMD社内テスト | 未記載 | - | 21 333 |
| NVIDIA Vera Rubin NVL72 | MLPerf v6.1 Closed、Preview | 72 | 1 183 327 | 16 435 |
| Nebius、NVIDIA GB300 NVL72 | MLPerf v6.1 Closed | 72 | 689 961 | 9 583 |
| Nebius、NVIDIA HGX B300 | MLPerf v6.1 Closed | 8 | 69 655 | 8 707 |
AMDは、MI455Xでの21 333トークン/秒を、PreviewカテゴリーのVera Rubin NVL72の結果と比較した。公開された数値の差は約30%だった。AMDの測定はMLCommonsの検証を受けていない。また、発表では使用したGPU数と計算の数値形式も明らかにされていない。これらのデータだけでは、同一条件でどの程度の優位性が得られるかを判断できない。
Vera Rubin NVL72には、レイテンシー制限付きの結果もある。MLPerf Serverでは、72基のGPUを搭載したラックが1 175 890トークン/秒を記録し、Interactiveでは652 750トークン/秒だった。Interactiveの要件はより厳しく、最初のトークンまで最大1.5秒、次の各トークンまで最大15 msとなっている。これはテスト上のしきい値だ。AMDによるMI450XおよびMI455Xの発表には、比較可能なServerとInteractiveの結果はない。
MI450XとMI455Xの選び方
432 GBの実用上の優位性が現れるのは、追加のメモリによってモデルのコピーをより少ないGPUに配置できる場合、または必要なレイテンシーを維持しながらより多くのリクエストを処理できる場合だ。100万出力トークンあたりのコストは、同じモデルと負荷条件で、構成全体を比較する必要がある。AMDの発表ではHeliosの価格が示されていないため、公開された結果だけから、どちらの構成がより有利かを判断することは現時点ではできない。
GPUの比較
Instinct MI450Xを他のGPUsと比較
基本
メモリ仕様
ディスプレイとメディア
理論上の性能
AI機能
相互接続とスケーラビリティ
その他
ベンチマーク
他のGPUとの比較
ソーシャルメディアで共有する
または当サイトへのリンクを追加
<a href="https://cputronic.com/ja/gpu/amd-instinct-mi450x" target="_blank">AMD Instinct MI450X</a>