Top-k サンプリング (Top-k Sampling)
読み: とっぷけーさんぷりんぐ
最終更新: 2026-07-20・AI PICKS編集部
定義
Top-kサンプリングとは、LLMが次のトークンを生成する際、確率上位k個の候補に絞り込んでからランダムに1つを選ぶデコーディング手法のこと。
Top-k サンプリング (Top-k Sampling)とは — 詳しく解説
Top-kサンプリング(Top-k Sampling)とは、LLMが次のトークンを予測する際、確率分布の上位k個(例: k=40)だけを候補として残し、そこから確率に応じてランダムに1つを選ぶ生成手法のことを指すとされる。全候補からサンプリングする素朴な方法に比べ、確率の低い突飛な単語が選ばれる確率を抑えつつ、常に最尤語だけを選ぶgreedy decodingより多様な文章を生成できる点が特徴とされる。実運用ではtemperatureやtop-pと組み合わせて使われることが多く、kの値が小さすぎると単調で似た表現ばかりになり、大きすぎると文脈から外れた出力が増えるという落とし穴がある。2026年時点の現場では、多くのAPIがtop-pとの併用をデフォルトにしており、パラメータ調整自体に追加コストはかからないものの、出力の再現性が下がるためテストや評価のコストが増える点に相場感として注意が必要とされる。
Top-k サンプリング (Top-k Sampling)の使用例
- OpenAI APIでtop_k=40を指定し、上位40候補の中から次トークンをサンプリングして出力に多様性を持たせる。
- temperature=0.7とtop_k=50を併用し、単調すぎず暴走もしない自然な文章生成を狙う。
Top-k サンプリング (Top-k Sampling)に関連するAIツール
関連用語
「LLM / 言語モデル」の他の用語
Artificial Intelligence の略。人間の知能をコンピュータで再現する技術全般を指す。
Large Language Model の略。 膨大なテキストで学習した文章生成 AI。 ChatGPT / Claude / Gemini が代表例。
AI がそれっぽい嘘をつく現象。 学習データに無い情報を推測で生成してしまう。
AI が一度に扱える文章の長さ。 トークン数で表現される (例: Claude Opus 4.7 は 1M トークン)。
AI が扱う文字のかたまり。 日本語は 1 文字 ≒ 1 トークン、 英語は単語 ≒ 1 トークン。 料金計算の単位でもある。
文章・画像・音声・動画 を新規に作り出す AI 技術。 ChatGPT 以降の AI ブームの主役。
AI用語辞典をすべて見てみませんか
12カテゴリ・763語以上を体系的に整理しています
辞典トップへ