MLPerf Trainingとは
何を測るテストか
MLPerf Training(エムエルパーフ・トレーニング)は、AI業界の団体MLCommons(エムエルコモンズ)が運営する、AIの学習性能の業界標準ベンチマークです。「学習(トレーニング)」は、大量のデータを使ってAIモデルを一から作ったり、調整したりする処理のことです。このベンチマークは、決められたAIモデルとデータを使い、決められた精度(品質の目標)に届くまでに何分かかるかを測ります。対象のモデルは版ごとに更新され、文章を生成する大規模言語モデル(Llama 3.1など)、画像生成(FLUX.1)、おすすめ表示に使う推薦モデル(DLRM)などが含まれます。同じ団体の「MLPerf Inference」が推論(学習済みモデルで答えを出す処理)を測るのに対し、こちらは学習を測ります。
スコアの見方
結果は「学習にかかった時間(分)」で、短いほど良いことを意味します。各テストは決められた回数だけ実行され、最も速い結果と最も遅い結果を除いた残りの平均が使われます。結果はMLCommonsのサイトで、提出者(メーカーやクラウド事業者)、システム構成(GPUの型番と枚数、CPU、ネットワーク)付きで公開されています。比べるときは、同じ版・同じモデル・同じ部門の結果どうしを見ます。また、GPUの枚数が違うと時間も大きく変わるため、「何枚のGPUで何分か」を必ずセットで見てください。部品が実際に買えるかどうかで「Available(購入・レンタル可能)」「Preview(次回までに購入可能になる予定)」「RDI(研究・開発・社内用)」の区分があります。
比べるときの注意
(1)結果はシステム全体の数値です。数千枚のGPUを使った結果を、1枚の性能と誤解しないでください。GPUの枚数を増やしても、時間は枚数に比例して短くなるとは限りません。(2)「Closed(決められたモデルで全員同じ条件)」と「Open(別のモデルなども許す)」の2つの部門があり、比較にはClosedを使います。(3)ソフトウェアの改良で同じGPUでも版ごとに数字が伸びるため、版をそろえてください。(4)結果のばらつきは、画像系のテストで±2.5%、その他で±5%程度あると公式に説明されています。わずかな差で優劣をつけないようにします。(5)提出は任意なので、一般向けGPUや古い世代のGPUの結果はほとんどありません。(6)RDI区分の結果は市販されていない機器を含むため、購入の判断には使えません。
主に使われる型番のカテゴリ
データセンター向けGPU・AIアクセラレータ(NVIDIA H100/H200/Blackwell系、AMD Instinct MI300系など)と、それを多数つないだAIシステム全体の学習性能の評価。中古のAIサーバーやGPUで学習用のクラスター(多数のサーバーをつないだ計算機群)を組むときの性能の目安に使います。一般向けGPUやCPU単体の比較には向きません。