中間学習 (Mid-training)
読み: ちゅうかんがくしゅう
最終更新: 2026-07-29・AI PICKS編集部
定義
中間学習 (Mid-training) とは、 事前学習と 指示チューニングの間に挟む 追加学習フェーズのこと。 推論力や長文処理耐性を強化する目的で行う。
中間学習 (Mid-training)とは — 詳しく解説
中間学習とは、 LLM 開発で 事前学習 (Pre-training) と 事後学習 (SFT/RLHF 等) の間に位置づけられる 追加学習フェーズのこと。 事前学習で得た汎用知識に対し、 数学的推論・長文コンテキスト処理・コード理解 など特定能力を伸ばす目的で、 比較的小規模で高品質なデータセットを使い再学習させる手法が 業界標準として広がりつつある。 Llama や DeepSeek など主要モデル系列の技術レポートでも 中間学習フェーズの存在が言及されるようになった。 2026 年時点の実運用での落とし穴は、 中間学習と ファインチューニングの境界が曖昧なまま 社内で「うちも中間学習を」と 過大なデータ整備コストをかけてしまうケース。 実際に中間学習を担うのは モデル開発元であり、 一般企業が現場で扱うのは その後段の ファインチューニングや RAG が中心になる。 選定の相場感としては、 モデルカードに中間学習の詳細開示があるかを目安にし、 開示が薄いモデルは推論力の裏付けが弱いと見るのが現実的。
中間学習 (Mid-training)の使用例
- モデルカードの『Mid-training』欄を確認し、 推論ベンチマークの根拠データが開示されているか比較する。
- 自社でファインチューニングする前に、 候補モデルが中間学習でどの能力を強化済みか調べてから着手する。
中間学習 (Mid-training)に関連するAIツール
関連用語
「インフラ・学習」の他の用語
既存の AI モデルを 自社データで追加学習させて 専門特化させる方法。
データから法則を自動学習させる AI 技術の総称。 ディープラーニングや LLM もここに含まれる。
ニューラルネットワークを多層化した機械学習手法。 LLM / 画像認識 / 音声認識 の基盤技術。
Self-Attention 機構を中核とするニューラルネット構造。 LLM / 画像 / 音声 すべての基盤。
入力系列のどこに注目すべきかを 動的に重み付けする仕組み。 Transformer の中核。
LoRAとは、大規模モデルの重みを凍結したまま低ランク行列ペアを追加挿入することで、全パラメータの1%以下の計算コストで特定ドメインへの適応を実現するファインチューニング手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・1163語以上を体系的に整理しています
辞典トップへ