MXFP4とは？重みを約4分の1に圧縮する4ビット量子化とNVFP4の違い

24GBのGPUを積んでいるのに、動かしたいモデルが入らない。この壁にぶつかった人は多いはずです。

MXFP4は、その壁を正面から削りにきたフォーマットです。重みの容量はBF16のおよそ4分の1。同じカードに4倍近い規模のモデルが載る計算になります。

ただしタダではありません。使い方を間違えると、答えの質がはっきり落ちます。落とし方と戻し方、その両方を押さえておく必要があります。

MXFP4とは、32個の数値で倍率を共有する4ビットの数値形式です

MXFP4とは、32個の数値がひとつの共通倍率を分け合う、4ビットの浮動小数点フォーマットです。名前のMXはMicroscaling（マイクロスケーリング）の略。細かい単位で倍率をかけ直す、という意味です。

策定したのはOpen Compute Project（OCP）。AMD、NVIDIA、Microsoft、Meta、OpenAIといった企業が名を連ねる業界団体です。標準化は2024年初頭。特定メーカー専用の囲い込み規格ではない、という点がまず効いてきます。

ここで言う量子化とは、AIモデルの中身の数値をわざと粗くして、容量と計算量を減らす作業のことです。16ビットで持っていた数値を4ビットにすれば、単純計算で容量は4分の1。

なぜそんな乱暴なことが成り立つのか。答えは次の節にあります。

4ビットで16通りしか表せないのに、なぜ動くのか

4ビットで表せる値は16通りだけ。ここに倍率という逃げ道を用意したのが、マイクロスケーリングの発想です。

4ビットの内訳は、符号1ビット・指数2ビット・仮数1ビットという構成です。表せる値は等間隔ではなく、ゼロ付近に密集しています。AIモデルの重みもゼロ付近に集中しているので、目盛りの粗さと数値の分布がうまく噛み合うわけです。

そこに、32個ごとの共通倍率がかかります。倍率は2のべき乗のみを取る8ビットの値。この倍率がブロック全体の「大きさ」を吸収してくれるので、4ビット側は形だけを担当すれば済みます。

主要なフォーマットの構造を並べると、違いが数字で見えてきます。

つまり、MXFP4は倍率のコストを32要素で割り勘にすることで、実効4.25ビットという薄さを実現しています。

BF16から見れば、重みは約3.8分の1。ざっくり「4分の1になる」と覚えておけば実務上は困りません。

MXFP4とNVFP4は何が違う？

違いは2点だけです。ブロックの大きさと、倍率の持ち方。

MXFP4は32要素にひとつの倍率、しかも2のべき乗しか取れません。NVFP4は16要素ごとに倍率を持ち、その値はFP8で動的に計算されます。復元の式は x = xq × s。4ビットの符号なし値に倍率を掛け戻すだけ、という点は共通です。

この小さな差が、外れ値の扱いで効いてきます。外れ値とは、ごく一部だけ極端に大きい数値のこと。32個の中に1個だけ桁違いの値が混ざると、倍率がその1個に引っ張られ、残り31個の目盛りが荒くなります。ブロックが16要素なら、巻き込まれる範囲は半分で済む。

要するに、MXFP4は軽さと中立性、NVFP4は精度を取りにいったフォーマットです。

どちらが「正解」なのか。それはベンチマークの数字を見てから判断しましょう。

精度はどこまで落ちる？

落ちます。しかも、見るベンチマークによって落ち方がまるで違います。

MXFP4のスケーリング手法を比較した研究では、同じモデルを複数の方式で量子化し、MMLU-ProとGSM8Kで測っています。その結果がこちら。

読み取れることは3つあります。

• 標準のMXFP4はMMLU-Proで10ポイント以上落ちる。これは軽微とは言えません
• GSM8Kはほぼ動かない。どの方式でも95.9〜96.9の狭い幅に収まっています
• 改良版スケーリングを入れたMXFP4は、NVFP4とほぼ並びます

つまり「MXFP4は精度が落ちる」という一言は雑すぎます。落ちるのは知識と推論の幅を問う課題であり、算数のような定型タスクではほぼ無傷。

ここが実務上いちばん大事な分岐点です。社内チャットボットで定型的な問い合わせをさばくだけなら、素のMXFP4でも実害が出にくい。一方、幅広い知識を横断させる用途では、方式選びが結果を左右します。

精度の穴を埋める「回転」という発想

外れ値が悪さをするなら、外れ値を散らしてしまえばいい。この発想で組まれたのが、量子化の前にブロックを回転させる手法です。

ICLR 2026で発表されたMR-GPTQは、量子化の前にブロック単位のアダマール回転をかけます。アダマール回転とは、数値の並びを混ぜ合わせて特定の位置への偏りをならす計算のこと。回転後は、ブロック内の全チャンネルに外れ値が分散されます。

効果はシンプルです。32要素のブロックに極端な値が集中しなくなるので、粗い倍率しか持てないMXFP4の弱点がそのまま縮む。前節の表でMXFP4-MBS-Sが82.37まで戻っているのも、同じ方向の工夫によるものです。

ここまでの整理：MXFP4は「32要素で倍率を共有する4ビット形式」。素のままだと知識系ベンチマークで10ポイント級に落ちるが、回転や改良スケーリングを噛ませればNVFP4と肩を並べる。判断すべきは形式ではなく、量子化手法まで含めた組み合わせです。

配布されている量子化済みモデルを選ぶとき、どの手法で潰したのかが書かれているかを見てください。書いていないモデルは、素のOCP準拠である可能性を疑ったほうが安全です。

MXFP4が効くのはどんな場面か

向き不向きがはっきり分かれるフォーマットです。用途ごとに整理します。

まとめると、MXFP4は「推論を安く広く回す」ための道具です。学習用ではありません。

日常業務のどこにAIを差し込むかを先に決めておくと、量子化の要否も自然に決まります。業務側の棚卸しから入るなら、社内監査業務のAI活用ガイドのように業務プロセス起点で整理した記事が参考になります。

どのハードとソフトで動く？

ハード側は、FP4の演算に対応した新しい世代のGPUが前提になります。個人が手を出せる範囲ではRTX 5090、業務向けではRTX PRO 6000といったカードが候補に挙がります。

対応していないGPUでも動くには動きます。ただし4ビットのまま計算するのではなく、いったん展開してから計算する形になるため、速度の恩恵は薄い。「容量は減ったのに遅くなった」という報告の多くは、この経路を踏んでいます。

ソフト側の入口は3つに分かれます。

自分でGPUを買わずに済ませたいなら、3番目が現実的です。量子化の手間ごと外注できます。

なお、OpenAIのオープンウェイト系モデル（GPT-OSS）がMXFP4で配布されたことが、この形式が一気に知られたきっかけでした。フォーマットの普及は、対応モデルの数で決まります。

MacでMXFP4モデルを試す手順

Apple SiliconのMacを持っているなら、話は早いです。Apple製の機械学習フレームワークMLXが、v0.29.0で新しい4ビット量子化形式としてMXFP4に対応しました。MetalとCPUの両方で動きます。

MLXはNumPyに似た配列操作と、PyTorchに近いAPIを持つフレームワークです。最大の武器は統一メモリ。CPUとGPUが同じメモリ空間を共有するため、Windows機のようなVRAMの壁がありません。M1からM4まで、世代を問わず動きます。

進め方はこの順番です。

1. MLXを0.29.0以降に更新する
2. モデル配布ハブでMXFP4版の重みを探す
3. 小さめのモデルで生成速度を測る
4. 同じ質問をBF16版にも投げて、答えの差を目で確認する

4番を飛ばさないでください。数字上のベンチマークより、自分の業務の質問で試したほうが判断が早い。

GUIで完結させたいなら、LM StudioとOllamaの比較を先に読むと、どちらの土台に乗せるか決めやすくなります。

INT4やGGUFとどう違う？

4ビット量子化という言葉は、実は複数の別物をまとめて指しています。混同すると比較が成立しません。

決定的な差は、整数か浮動小数点かという点です。整数は目盛りが等間隔。浮動小数点はゼロ付近が密で、外側ほど粗い。AIモデルの重みはゼロ付近に集まっているので、後者のほうが分布に素直に合います。

もうひとつの差はハード対応です。MXFP4とNVFP4は、対応GPUなら4ビットのまま演算できます。この「そのまま計算できる」性質が速度差を生みます。

ローカル実行アプリで慣れ親しんだ4ビットとは、同じ数字でも中身が別物。ここを踏まえたうえで比べてください。

導入前に踏みやすい落とし穴

軽くなった、で終わらせると痛い目を見ます。よくある踏み抜き方を4つ。

• 速くなるとは限らない：GPUがFP4演算に対応していなければ、展開のオーバーヘッドで逆に遅くなります
• ベンチマークの選び方で印象が変わる：GSM8Kだけ見て「劣化なし」と結論づけるのは早すぎます
• 配布モデルの手法が不明：素のOCP準拠なのか改良版なのか、書かれていないケースがあります
• 業務データの検証を省く：一般ベンチマークで82点でも、自社の専門用語では別の結果になります

外部に出せないデータを扱うなら、ローカル実行という選択肢そのものが価値になります。社内文書をAIに読ませたいが外に出せない、という制約は多くの現場に共通します。量子化はその制約を予算面で現実的にする手段です。

導入判断のときは、精度・速度・データの置き場所を1枚の表にして関係者に見せるのが早い。口頭説明だと必ず「で、結局どうなの」で止まります。

画像・動画生成でもFP4は効くのか？

効きます。むしろ、こちらのほうが体感の変化は大きいかもしれません。

画像生成や動画生成は、言語モデル以上にVRAMを食う分野です。MXFP4やMXFP6を使って生成モデルを圧縮し、精度と速度の綱引きを緩める研究が進んでいます。動画のように1枚あたりの計算が積み上がる用途では、メモリの余裕がそのまま解像度やフレーム数の上限になります。

ワークフローを自分で組む人にとっては、載るモデルの数が増えることが直接の利益です。ノードを繋いで生成パイプラインを作るComfyUIや、モデルの土台となるStable Diffusion系は、この恩恵を受けやすい構成をしています。

生成環境をこれから整えるなら、ComfyUIとStable Diffusionの違いを先に読むと、どこに量子化を効かせるべきかが見えます。ツール選びから入りたい人はAIイラスト生成ツールの比較のほうが近道です。

言語も画像も、ボトルネックはメモリ。そこを削る技術は、分野を横断して効きます。

これから何が変わる？

3つの流れが見えています。

ひとつは、量子化手法の標準化です。素のOCP準拠では精度が足りないことが数字で示された以上、回転や改良スケーリングを含めた「実用プロファイル」が定着していくはずです。配布モデルの説明欄に手法名が並ぶ日は近い。

ふたつめは、対応ハードの裾野。FP4演算に対応したカードが普及価格帯に降りてくれば、4ビット前提のモデル配布が当たり前になります。統一メモリを持つApple Silicon系の開発機も、この流れの受け皿になります。

みっつめは、フォーマット競争の決着です。MXFP4は業界標準という立ち位置、NVFP4は精度という武器。策定にはMetaも参加しており、同社の一般向けAIの現状はMeta AI徹底ガイドにまとめています。

この分野は論文の更新が速く、半年前の常識が通じません。原典を追いかける習慣をつけるなら、Feloの使い方ガイドのようなリサーチAIの活用記事が土台になります。

AI PICKS編集部の判定

MXFP4は「条件付きで一択」です。手元のGPUに載らないモデルを動かしたい、あるいはクラウドの推論コストを削りたい。この2つのどちらかに当てはまるなら、検討しない理由がありません。重みが約4分の1になる圧縮率は、素直に破格です。

ただし、素のOCP準拠をそのまま本番に流すのは正直イマイチ。MMLU-Proで83.19が72.52まで落ちるという数字は、無視できる幅ではありません。改良版スケーリングや回転を噛ませたモデルを選ぶ。この一手間を惜しむと、「安くしたら賢くなくなった」という最悪の結末になります。

逆に、算数や定型処理が中心の用途なら心配は要りません。GSM8Kがほぼ動かないという結果は、そのまま実務への保証になります。

導入の順番はこうです。自社の代表的な質問を20個用意する。BF16版とMXFP4版に同じ質問を投げる。答えを並べて読む。ここで違和感がなければ、迷わず切り替えてかまいません。数字より自分の目を信じたほうが、この判断は速く終わります。

よくある質問（FAQ）

Q. MXFP4を使うと、モデルの容量はどれくらい減りますか？

BF16と比べて、重みはおよそ4分の1になります。厳密には、32要素ごとの倍率を含めた実効ビット数が4.25なので、約3.8分の1が正確な数字です。実運用では作業用メモリも必要になるため、必要VRAMがそのまま4分の1になるわけではない点に注意してください。

Q. MXFP4とNVFP4、どちらを選ぶべきですか？

精度を優先するならNVFP4、対応環境の広さとメモリ効率を優先するならMXFP4です。ただし改良スケーリングを入れたMXFP4はMMLU-Proで82.37を記録しており、NVFP4の82.69とほぼ並びます。手法まで含めて比べれば、差は縮まります。

Q. 古いGPUでもMXFP4モデルは動きますか？

動きます。ただしFP4のまま計算できないため、いったん展開してから処理する形になります。メモリ使用量は減りますが、速度面の恩恵は限定的です。「軽くなったのに遅い」と感じたら、この経路を疑ってください。

Q. Macでも使えますか？

使えます。AppleのMLXがv0.29.0で新しい4ビット量子化形式としてMXFP4に対応し、MetalとCPUの両方で動作します。統一メモリのおかげでVRAMの上限を気にせず済むのが、Apple Siliconの強みです。

Q. 量子化すると日本語の品質は落ちますか？

フォーマット自体は言語に依存しません。ただし知識の幅を問う課題で精度が落ちる傾向があるため、日本語特有の言い回しや固有名詞の扱いで差が出る可能性はあります。自社でよく使う質問文で必ず比較してください。

Q. 学習やファインチューニングにも使えますか？

推論向けのフォーマットと考えてください。勾配計算では4ビットの粗さがそのまま学習の安定性に響くため、学習時はより高い精度で扱うのが一般的です。

Q. どこでMXFP4版のモデルを入手できますか？

モデル配布ハブに手法別で並んでいます。OpenAIのオープンウェイト系モデルがMXFP4で配布されたことが普及のきっかけになり、追随する配布も増えています。選ぶときは、量子化手法が明記されているかを確認してください。

関連する比較・代替を見る

量子化はあくまで「載せる」ための技術です。どのモデルやサービスを使うかは、別の軸で決めることになります。

• ChatGPTの代替を見る — クラウド前提から乗り換える候補を確認
• Claudeの代替を見る — 長文処理の比較検討に
• Ollamaの代替を見る — ローカル実行環境の選択肢を横並びで
• LM Studioの代替を見る — GUI派向けの比較
• Groqの代替を見る — 高速推論APIの他候補
• OpenRouterの代替を見る — 複数モデルを束ねる中継サービス
• LM Studio vs Ollama — ローカル実行の二大定番を直接比較
• ChatGPT vs Claude — クラウド側の性能差を押さえる

次に読むならこれ。手元のマシンでモデルを動かす前段として、LM StudioとOllamaの比較を先に読んでおくと、量子化済みモデルをどこに置くかで迷わなくなります。

各ツールの公式サイト（一次情報）

料金・機能・対応範囲は各社公式が一次情報です。本記事は公開時点の検証に基づきますが、最新かつ正確な条件は必ず各公式ページで確認してください。

• Ollama — 公式サイト（AI PICKSの詳細）
• LM Studio — 公式サイト（AI PICKSの詳細）
• Hugging Face — 公式サイト（AI PICKSの詳細）
• Groq — 公式サイト（AI PICKSの詳細）
• OpenRouter — 公式サイト（AI PICKSの詳細）