定義
ロジットバイアスとは、LLMが次のトークンを選ぶ際の各候補の生成確率(ロジット)に数値を加減し、特定の単語の出現を強めたり抑えたりする制御手法のこと。
ロジットバイアス (Logit Bias)とは（詳しく解説）
ロジットバイアスは、OpenAIのAPIなどで提供される生成制御機能で、トークンID単位に-100〜100程度の補正値を指定し、特定の単語や表現の出現確率を強制的に操作する仕組みとして知られる。禁止用語の排除や特定フォーマットへの誘導、JSON出力の安定化などに使われてきた。ただし2026年時点の実運用では、プロンプトエンジニアリングや構造化出力(Structured Outputs)、JSON modeなど、より精度が高く保守しやすい代替手段に置き換わりつつあり、ロジットバイアス単体で複雑な制御を行うと副作用でトークン化の異なる同義語がすり抜けたり、文脈が不自然になったりする落とし穴があるとされる。現場での選び方としては、単純な単語の禁止・強制程度の軽量な用途に絞り、複雑な制御は構造化出力やfunction callingに任せる使い分けが一般的とされる。API呼び出し自体の追加コストは発生しないが、調整に伴う試行錯誤の工数がかかる点は考慮が必要である。
ロジットバイアス (Logit Bias)の使用例
- OpenAI Chat Completions APIのlogit_biasパラメータで対象トークンIDに-100を指定し、出現を強制的に禁止する設定。
- 特定の言い回しを避けたい場合、事前にトークンIDを調べてlogit_biasに負値を設定しリクエストに含める運用。
