定義
MGSMとは、英語の数学文章題ベンチマークGSM8Kを日本語・中国語・スワヒリ語など複数言語に翻訳し、LLMの多言語数学推論力を測るベンチマークのこと。
MGSM (多言語算数ベンチ)とは(詳しく解説)
MGSM(Multilingual Grade School Math)は、英語の小学校算数文章題ベンチマークGSM8Kを日本語・ドイツ語・スワヒリ語など十数言語に人手翻訳し、LLMの多言語での数学推論能力を測る評価指標として業界標準的に使われている。モデルの技術報告書で英語ベンチと並んで引用されることが多く、多言語対応をうたうモデルの実力比較に使われる。ただし2026年時点の実運用では、英語での正答率と比べて低リソース言語(スワヒリ語など)のスコアが大きく落ちる傾向が広く指摘されており、「多言語対応」表示だけを鵜呑みにせず、実際に使う言語のスコアを個別に確認する姿勢が現場では求められる。またベンチマーク自体の実行にはAPIコストがかかるため、自前で全言語を回すよりは公開されているリーダーボードの数値を相場感として参照し、自社の対象言語(日本語など)に絞って追試するのがコストと精度のバランスが良い選び方とされる。
MGSM (多言語算数ベンチ)の使用例
- モデル選定時に日本語でのMGSMスコアを英語のGSM8Kスコアと比較し、日本語での数学推論力の劣化幅を確認する。
- 技術報告書のMGSM言語別スコア表から、自社で使う言語(例: 日本語)の行だけを見て導入判断する。