データの壁 (Data Wall)
読み: でーたのかべ
最終更新: 2026-08-15・AI PICKS編集部
定義
データの壁とは、大規模言語モデルの事前学習に使える高品質なテキストデータの供給が有限で、いずれ枯渇するとされる制約のこと。
データの壁 (Data Wall)とは — 詳しく解説
データの壁とは、大規模言語モデルの事前学習に使える高品質なテキストデータ(書籍・論文・良質なウェブ記事など)の総量が有限であり、モデルの巨大化に学習データの供給が追いつかなくなる現象を指す。2026年時点では、インターネット上の高品質テキストの多くがすでに学習済みとされ、追加データの多くは合成データ(AIが生成したテキスト)や動画・音声などのマルチモーダルデータ、有償ライセンスデータで補われる方向にシフトしている。実運用では、合成データへの依存度が高いモデルほど品質のばらつきが出やすく、事実確認や重複除去などのデータクレンジング工程にかかるコストが無視できない。現場でモデルやAPIを選ぶ際は、学習データの出所やライセンス方針を公開しているベンダーを優先し、著作権リスクや出典の透明性を相場感とあわせて確認するのが実務的な選び方とされる。
データの壁 (Data Wall)の使用例
- 「モデルの性能向上が頭打ちなのはデータの壁が一因では」といった議論で使われる表現。
- 合成データや動画データの活用は、データの壁への対応策の一つとして語られる。
データの壁 (Data Wall)に関連するAIツール
データの壁 (Data Wall)の関連記事
関連用語
「インフラ・学習」の他の用語
既存の AI モデルを 自社データで追加学習させて 専門特化させる方法。
データから法則を自動学習させる AI 技術の総称。 ディープラーニングや LLM もここに含まれる。
ニューラルネットワークを多層化した機械学習手法。 LLM / 画像認識 / 音声認識 の基盤技術。
Self-Attention 機構を中核とするニューラルネット構造。 LLM / 画像 / 音声 すべての基盤。
入力系列のどこに注目すべきかを 動的に重み付けする仕組み。 Transformer の中核。
LoRAとは、大規模モデルの重みを凍結したまま低ランク行列ペアを追加挿入することで、全パラメータの1%以下の計算コストで特定ドメインへの適応を実現するファインチューニング手法のこと。
用語がわかったら、次はツール選び
12カテゴリ・1518語以上を体系的に整理しています