トップ › 用語集 › FP8／FP4（低精度の数値形式）

FP8／FP4（低精度の数値形式）とは（FP8 / FP4 (8-bit / 4-bit floating point)）

ひとことで：数字を8ビットや4ビットという少ない桁で表す形式のこと。精度を少し下げる代わりに、AIの計算を速く・省メモリにできます。

詳しく

FP（浮動小数点）は、コンピューターが小数を表す方法です。FP32は32ビット、FP16は16ビットを使い、FP8やFP4はさらに少ない8ビット・4ビットで表します。桁が少ないぶん細かい値は表せませんが、AIの推論（学習済みモデルで答えを出す処理）では多少の誤差が許されるため、同じ時間でより多くの計算ができ、メモリも節約できます。NVIDIAはHopper世代（H100など）のTensorコアでFP8に対応し、Blackwell世代の第2世代Transformer Engine（AI向けの計算機能）でFP4に対応しました。中古のAI用GPUを比べるときは、「その世代がどの精度に対応しているか」で使い道が変わります。古い世代はFP8やFP4の高速計算ができないため、同じTFLOPSの数字でも比べられない点に注意してください。

具体例

H100 SXM：FP8 Tensorコアで3,958 TFLOPS（スパース性あり、NVIDIA公表値）。Blackwell：第2世代Transformer EngineでFP4推論に対応（NVIDIA発表）。DGX B200（GPU8基）：FP4 144 PFLOPS（スパース）／72 PFLOPS（デンス）。