LoRA (Low-Rank Adaptation)
読み: ろーら
最終更新: 2026-06-25・AI PICKS編集部
定義
LoRAとは、大規模モデルの重みを凍結したまま低ランク行列ペアを追加挿入することで、全パラメータの1%以下の計算コストで特定ドメインへの適応を実現するファインチューニング手法のこと。
LoRA (Low-Rank Adaptation)とは — 詳しく解説
LoRA(Low-Rank Adaptation)は、2021年にMicrosoftが提案したPEFT(パラメータ効率的ファインチューニング)手法。元モデルの重みを固定し、各Transformerレイヤーに低ランク行列A・Bを挿入する。学習するのはこの追加行列のみで、GPUメモリと学習時間を大幅に削減できる。 Stable Diffusionのキャラクター・スタイル適応から、7〜70BクラスのLLMインストラクションチューニングまで幅広く使われ、2026年時点でエンタープライズの個社カスタマイズにおける事実上の標準手法となっている。 現場での選び方として、rankは4〜16が定番でrank=8が汎用バランス。学習データの相場感は画像LoRAで100〜500枚、テキストLoRAで5,000〜50,000トークン程度。A100 80GB換算で7Bモデルなら3〜6時間が目安。 実運用での落とし穴は3点。①複数LoRAを同時マージすると重みスケールの干渉で品質が劣化しやすい。②GGUF等の量子化済みモデルへの事後適用は精度低下が顕著。③rankを低くしすぎると「特定プロンプトにしか反応しない」過適合が起きる。AI PICKSが紹介する画像・動画生成ツールの多くはLoRAカスタマイズAPIを提供しており、ブランド一貫生成の文脈で導入事例が急増中。
LoRA (Low-Rank Adaptation)の使用例
- SD系ツールでキャラLoRA学習:キャラ画像150枚・rank8・2,000stepでRTX 3090なら約40分。「キャラ名, best quality」だけで安定生成できる。
- 7B LLMを社内FAQ特化:社内文書1万トークンでLoRA学習し、フルFTの1/20のコストでドメイン回答精度を大幅改善。A100不要でRTX 4090で対応可能。
LoRA (Low-Rank Adaptation)に関連するAIツール
関連用語
「インフラ・学習」の他の用語
既存の AI モデルを 自社データで追加学習させて 専門特化させる方法。
データから法則を自動学習させる AI 技術の総称。 ディープラーニングや LLM もここに含まれる。
ニューラルネットワークを多層化した機械学習手法。 LLM / 画像認識 / 音声認識 の基盤技術。
Self-Attention 機構を中核とするニューラルネット構造。 LLM / 画像 / 音声 すべての基盤。
入力系列のどこに注目すべきかを 動的に重み付けする仕組み。 Transformer の中核。
RLHFとは、人間の評価・フィードバックを報酬信号として活用し、LLMの出力を人間の意図に沿わせる強化学習手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・102語以上を体系的に整理しています
辞典トップへ