ステアリングベクトル (Steering Vector)

ステアリングベクトル (Steering Vector)とは — 詳しく解説

ステアリングベクトルは、LLMの中間層における活性化パターンから特定の概念(丁寧さ、拒否傾向、特定の話題など)に対応する方向ベクトルを抽出し、推論時にそのベクトルを加算・減算することでモデルの出力特性を調整する手法とされる。fine-tuningのように重みを更新せず、プロンプトのように出力形式に依存しないため、軽量な制御手段として研究コミュニティで注目されている。2026年時点の実運用では、抽出したベクトルが想定外の副作用を他タスクの性能に及ぼすケースが報告されており、現場では単一ベクトルの適用前に複数タスクでの回帰評価を行う運用が広く採用されている。また商用LLM APIの多くはステアリングベクトルの注入機能を公式提供していないため、独自に重みへアクセスできるオープンウェイトモデル(Llama系など)での活用が中心となる。コスト面では追加学習が不要な分fine-tuningより低コストとされる一方、ベクトル抽出・評価には相応の実験工数がかかるため、選定時は「軽量な行動調整で十分か」「安全性クリティカルな用途か」を基準に、プロンプトエンジニアリングやfine-tuningとの使い分けが検討されている。

ステアリングベクトル (Steering Vector)に関連するAIツール

Adept

2.70有料

Relevance AI

2.93フリーミアム

AgentSwarms

2.02無料

KARAKURI chatbot

2.04有料

PKSHA AI Agents

2.75有料

関連用語

「LLM / 言語モデル」の他の用語