Top-k サンプリング (Top-k Sampling)の定義
Top-k（top_k、トップケー）とは、LLMが次の言葉（トークン）を選ぶときに、確率の高い上位k個の候補だけを残し、その中からランダムに1つ選ぶ設定のことです。kが小さいほど無難な文章、大きいほど多様な文章になります。
- 英語表記
- Top-k sampling（トップケー・サンプリング）。APIのパラメータ名は top_k（Gemini APIでは topK）
- 初出の例
- Fanらの論文「Hierarchical Neural Story Generation」（arXiv:1805.04833、2018年）で、上位10語からランダムに選ぶtop-kサンプリングを物語生成に使用
- 目的
- 確率の低い突飛な言葉（ロングテール）を候補から外し、文章が破綻するのを防ぎます
- 対応例
- Hugging Face Transformers（未設定時の初期値は50）、Gemini API（topK）など
- Claude APIでの扱い
- top_k は非推奨。Claude Opus 4.6より後に出たモデルでは、指定するとエラーになります
- 別の意味
- RAG（社内資料を読ませて答えさせる仕組み）では、検索で上位何件の文書を取り出すかをtop_kと呼ぶこともあります
Top-k サンプリング (Top-k Sampling)とは（詳しく解説）
Top-kサンプリングは、LLMが次のトークンを選ぶときの選び方の一つです。モデルは毎回、次に来そうな言葉ごとに確率を出します。Top-kでは、その中から確率の高い上位k個だけを残し、残った候補から確率に応じてランダムに1つ選びます。 よく知られた例が、2018年のFanらの論文です。物語を自動で書く研究で、上位10語からランダムに選ぶ方法を使いました。いつも一番確率の高い言葉だけを選ぶと同じ表現をくり返しやすく、全候補から選ぶと突飛な言葉が混ざります。Top-kはその中間をとる方法です。 kの値で文章の性格が変わります。小さくすると無難でまとまった文章に、大きくすると表現が多様になる代わりに話がそれやすくなります。Hugging Face Transformersでは、未設定なら50が使われます。似た設定にTop-p（核サンプリング）やtemperatureがあり、組み合わせて調整することもあります。 なお、どのAPIでも使えるわけではありません。Gemini APIはtopKとして指定できますが、Claude APIではtop_kが非推奨になり、Claude Opus 4.6より後のモデルでは指定するとエラーになります。使うモデルのドキュメントで、対応しているパラメータを先に確認しましょう。
Top-k サンプリング (Top-k Sampling)のよくある質問
Q. Top-kとTop-p（top_p）の違いは？
Top-kは「上位k個」と候補の数で絞ります。Top-pは確率を上から足していき、合計がpに達するまでの候補に絞る方法で、候補の数が場面ごとに変わります。
Q. top_kはいくつに設定すればいいですか？
まずはツールの初期値のまま使うのが無難です。Hugging Face Transformersでは未設定なら50です。単調すぎると感じたら上げ、話がそれるなら下げて調整します。
Q. Claudeでtop_kは使えますか？
非推奨になっています。Claude Opus 4.6より後に出たモデルではtop_kを受け付けず、指定するとエラーになります。出力の調整はtemperatureなど他の方法で行います。
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「Top-k サンプリング (Top-k Sampling)とは」 https://aipicks.jp/glossary/top-k
Top-k サンプリング (Top-k Sampling)の使用例
- Hugging Face transformersのgenerate()でdo_sample=True、top_k=40を指定し、上位40候補の中から次のトークンを選んで出力に多様性を持たせる。
- temperature=0.7とtop_k=50を併用し、単調すぎず暴走もしない自然な文章生成を狙う。
Top-k サンプリング (Top-k Sampling)に関連するAIツール
Top-k サンプリング (Top-k Sampling)の関連記事
Top-k サンプリング (Top-k Sampling)の関連用語
12カテゴリ・1815語以上を体系的に整理しています