PEFT (パラメータ効率的微調整)
読み: ぺふと
最終更新: 2026-06-29・AI PICKS編集部
定義
PEFTとは、大規模言語モデルの全パラメータを更新せず、LoRAなど少数パラメータのみを調整することで、低コスト・短時間でモデルを特定タスクに適応させる微調整手法群のこと。
PEFT (パラメータ効率的微調整)とは — 詳しく解説
PEFT（Parameter-Efficient Fine-Tuning）は、GPT-4やLlamaなど大規模言語モデルを特定業務に適応させる際、全パラメータを再学習するフルファインチューニングの代わりに、LoRA・Prefix Tuning・Adapterなどの手法で一部パラメータのみ更新する技術群を指す。GPU VRAM消費と計算コストを劇的に削減できるのが最大の強みだ。 2026年現在、実運用での主流はLoRA（Low-Rank Adaptation）とQuantized版のQLoRAで、RTX 4090単体で7Bクラスのモデルを微調整できるケースも一般的になった。AI PICKSが現場事例を調査すると、クラウド計算コストはフルファインチューニングの1/10〜1/50程度が相場感となっている。 落とし穴は3点ある。第一に、学習データの品質がボトルネックとなりやすく、数百〜数千件の高品質ラベルデータ作成コストを見落としがち。第二に、特定ドメインへの適応が得意な反面、汎化性能を下げるリスクがある。第三に、LoRAのrank値とalpha値のチューニングが結果に大きく影響し、ハイパーパラメータ探索のコストが意外にかかる。 現場での選び方として、まずRAGで解決できないかを先に検討することを推奨する。RAGで対応できない「文体・出力形式・専門推論パターンの定着」が必要になったときにPEFTの出番となる。
PEFT (パラメータ効率的微調整)の使用例
- 社内文書のトーンで回答するチャットボットをQLoRAで構築。RTX 4090×1枚・約2時間・$15以下のコストで完成した事例として現場でよく参照される。
- LoRAのrankを4→16→64と変えながら検証。rank=16でベースモデルの97%精度を維持しつつ、学習対象パラメータ数を全体の0.1%以下に抑えた。
PEFT (パラメータ効率的微調整)に関連するAIツール
関連用語
「インフラ・学習」の他の用語
既存の AI モデルを 自社データで追加学習させて 専門特化させる方法。
データから法則を自動学習させる AI 技術の総称。 ディープラーニングや LLM もここに含まれる。
ニューラルネットワークを多層化した機械学習手法。 LLM / 画像認識 / 音声認識 の基盤技術。
Self-Attention 機構を中核とするニューラルネット構造。 LLM / 画像 / 音声 すべての基盤。
入力系列のどこに注目すべきかを 動的に重み付けする仕組み。 Transformer の中核。
LoRAとは、大規模モデルの重みを凍結したまま低ランク行列ペアを追加挿入することで、全パラメータの1%以下の計算コストで特定ドメインへの適応を実現するファインチューニング手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・302語以上を体系的に整理しています
辞典トップへ