定義
バッチサイズとは、機械学習モデルの学習において一度のパラメータ更新に使用する学習データのサンプル数のこと。
バッチサイズ (Batch Size)とは(詳しく解説)
バッチサイズは、ニューラルネットワークの学習で1回の重み更新に用いる訓練データの件数を指す業界標準の用語で、数十件程度の小バッチから数千件規模の大バッチまで用途に応じて選ばれる。大きくすると学習が安定し並列化しやすくGPUの計算効率が上がる一方、必要なVRAMが線形に増えるため、2026年時点の実運用ではGPUメモリの上限がバッチサイズの事実上の天井になりやすい。逆に小さすぎると学習が不安定になったり収束が遅くなったりする。現場での選び方は、まず使用するGPUのVRAM容量から入る最大値を見積もり、学習率をバッチサイズに応じて調整(線形スケーリングなど)しながら検証精度を見て絞り込むのが一般的とされる。クラウドGPUは秒課金が主流のため、バッチサイズが小さいまま長時間学習を回すとコストが膨らみやすく、勾配累積(gradient accumulation)で実質的な大バッチを疑似的に再現しコストを抑える手法も広く採用されている。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます(CC BY 4.0)。
出典: AI PICKS AI用語辞典「バッチサイズ (Batch Size)とは」 https://aipicks.jp/glossary/batch-size
バッチサイズ (Batch Size)の使用例
- 自前でLLMをファインチューニングする際、VRAM上限からバッチサイズ8を選び勾配累積で実質32相当にする。
- 画像生成モデルの追加学習で、バッチサイズを4→16に上げたらエポックあたりの学習時間が短縮した。