スケーリング則 (Scaling Laws)
読み: すけーりんぐそく
最終更新: 2026-06-27・AI PICKS編集部
定義
スケーリング則とは、モデルサイズ・データ量・計算量を増やすほどAIの性能が予測可能な形で向上するという経験則のこと。
スケーリング則 (Scaling Laws)とは — 詳しく解説
スケーリング則とは、大規模言語モデル（LLM）において、パラメータ数・学習データ量・計算コスト（FLOPs）の3要素を増大させると、損失関数がべき乗則的に改善されるという実証的な法則。2020年にOpenAIが発表した「Scaling Laws for Neural Language Models」で定式化され、GPT-4やGemini Ultra等の超大規模モデル開発の理論的根拠となった。 2026年現在の実運用での落とし穴として、「スケールすれば必ず賢くなる」という思い込みがある。実際には推論能力・コード生成・数学的推論はスケールで改善しやすい一方、ハルシネーション抑制・最新知識の反映・特定ドメイン精度はスケールだけでは解決しない。現場ではむしろfine-tuningやRAGの組み合わせが費用対効果で勝るケースが多い。 コスト面では、モデルを10倍スケールすると学習コストは約100倍に膨れ上がる。AI PICKSが調査した2026年の相場感では、GPT-4o相当の推論コストは1年前比で約1/5に下がったが、最大規模モデルの学習費用は1回あたり数十億円規模。スタートアップが自前でスケールを追うより、既存APIを活用する判断が現場では主流になっている。
スケーリング則 (Scaling Laws)の使用例
- GPT-3から4への移行で推論精度が大幅改善したのはスケーリング則の典型例。パラメータ数が約10倍になり、複雑な指示への追従率も劇的に向上した。
- 自社LLM構築を検討中のスタートアップがスケーリング則を誤解し、小モデルをfine-tuningする代わりに大規模学習に投資して数千万円を無駄にした事例がある。
スケーリング則 (Scaling Laws)に関連するAIツール
関連用語
「インフラ・学習」の他の用語
既存の AI モデルを 自社データで追加学習させて 専門特化させる方法。
データから法則を自動学習させる AI 技術の総称。 ディープラーニングや LLM もここに含まれる。
ニューラルネットワークを多層化した機械学習手法。 LLM / 画像認識 / 音声認識 の基盤技術。
Self-Attention 機構を中核とするニューラルネット構造。 LLM / 画像 / 音声 すべての基盤。
入力系列のどこに注目すべきかを 動的に重み付けする仕組み。 Transformer の中核。
LoRAとは、大規模モデルの重みを凍結したまま低ランク行列ペアを追加挿入することで、全パラメータの1%以下の計算コストで特定ドメインへの適応を実現するファインチューニング手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・202語以上を体系的に整理しています
辞典トップへ