定義
MFU(モデルFLOPs利用率)とは、GPUの理論上の最大演算性能に対し、実際のモデル学習で引き出せている計算性能の割合のこと。
MFU (モデルFLOPs利用率)とは(詳しく解説)
MFUはGPUクラスタの理論最大FLOPS(浮動小数点演算性能)に対し、実際の学習ジョブがどれだけの計算性能を引き出せているかを示す指標で、大規模言語モデルの学習効率を測る業界標準の物差しとされる。一般に40〜50%台であれば良好とされ、通信ボトルネックやメモリ帯域の制約で20〜30%台に留まるケースも珍しくないとされる。2026年時点の実運用では、GPUクラウドの利用料の相場感が主にGPU時間単価で決まるため、MFUが10ポイント違うだけで同じモデルを学習するコストが数割変わってくる。現場ではバッチサイズや並列化戦略、通信ライブラリの選定でMFUを底上げする調整が行われる一方、MFUの数値だけを追い求めてモデル精度や学習の安定性を犠牲にする落とし穴も指摘されている。
MFU (モデルFLOPs利用率)の使用例
- 学習ジョブの監視ダッシュボードでMFUを常時トラッキングし、低下時に並列化設定を見直す運用が一般的とされる。
- GPUクラウド契約前にベンダー提示のMFU実績値を比較材料にする選定方法が広く採用されている。