本ページはプロモーションを含みます（掲載基準）
P95レイテンシ (テール遅延)の定義
P95（p95）とは、データを小さい順に並べたとき95%がその値以下に収まる値（95パーセンタイル）のことです。P95レイテンシなら、全リクエストの95%がその時間内に返ってくる応答時間を指します。
- 正式な言い方
- 95th percentile（95パーセンタイル）。P95、p95と略す
- 意味
- 95%のデータがその値より小さく、5%がその値より大きい境目の値
- P95レイテンシの読み方
- P95が800msなら、95%のリクエストは800ms以内に返り、残り5%はそれより遅い
- 平均値より使われる理由
- 平均では隠れる一部の遅いリクエスト（テール遅延）が見えるため。GoogleのSRE本も平均より百分位数を勧めている
- 関連する指標
- P50（中央値）、P90、P99、P99.9。数字が大きいほど最悪に近いケースを表す
- 対応する監視ツールの例
- Amazon CloudWatch は p95 のような書き方でパーセンタイル統計を指定できる
P95レイテンシ (テール遅延)とは（詳しく解説）
P95レイテンシとは、システムへのリクエスト応答時間を測定し、速い順に並べたときに全体の95%がその時間以内に収まる値のことで、平均レイテンシでは埋もれる一部の遅い処理(テール遅延)を捉えるために業界標準の指標として広く採用されているとされる。平均値だけを追うと、大半のユーザーには速く感じられても、一部のリクエストが数秒〜数十秒待たされる体験を見落としやすい。2026年時点の実運用では、LLM API呼び出しやRAG検索を組み合わせたエージェント処理でP95が跳ねやすく、モデル呼び出し回数が増えるほどテール遅延が悪化する傾向がある。現場での選び方は、ユーザー向け同期処理はP95(場合によってはP99)を、バッチ処理は平均値やスループットを重視するという使い分けが定石。監視コストや対策(キャッシュ・タイムアウト設計・非同期化)も込みで相場感を把握したうえで、SLA設計に組み込むのが実務上の落とし穴を避けるコツとされる。
P95レイテンシ (テール遅延)を調べた人に
ローカルLLMを
大きなモデルほどメモリやVRAMが要ります。統合メモリの多いミニPCや、GPU搭載のデスクトップが候補です。
GMKtec（ミニPC）Ryzen AI搭載で統合メモリの大きいミニPCがあり、机の上に置ける大きさでローカルLLMを動かせる
ミニPC ／ Ryzen AI搭載モデルあり（価格は公式ストアで確認）
FRONTIER（BTOパソコン）GeForce RTX搭載のデスクトップを構成を選んで買える。VRAMの大きいGPUも選べる
BTOパソコン ／ GeForce RTX搭載モデルあり（構成と価格は公式で確認）
Lenovo（レノボ公式ストア）GPU搭載のノートやデスクトップを公式ストアで構成を選んで買える
パソコン（公式オンラインストア） ／ 構成と価格は公式ストアで確認
P95レイテンシ (テール遅延)のよくある質問
Q. p95とp99の違いは何ですか？
p95は上位5%を除いた境目、p99は上位1%を除いた境目の値です。p99のほうがより遅いケースまで含めて見るので、値は大きくなります。
Q. P95レイテンシはなぜ平均値より大事なのですか？
平均値は、ほとんどが速くて一部だけ極端に遅い場合でも、良い数字に見えてしまうからです。P95を見ると、20回に1回ほど起きる遅い体験がどの程度かが分かります。
Q. P50（p50）とは何ですか？
50パーセンタイル、つまり中央値です。ふつうの利用者が体験する典型的な速さを表し、P95やP99と並べて見ることで遅いケースとの差が分かります。
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「P95レイテンシ (テール遅延)とは」 https://aipicks.jp/glossary/p95-latency
P95レイテンシ (テール遅延)の使用例
- P95レイテンシが800msの場合、95%のリクエストは800ms以内に完了するが、残り5%はそれ以上かかることを示す。
- LLMチェイン処理でP95が悪化したら、まずリトライ回数上限とタイムアウト設計を見直す。
P95レイテンシ (テール遅延)に関連するAIツール
P95レイテンシ (テール遅延)の関連記事
P95レイテンシ (テール遅延)の関連用語
12カテゴリ・1834語以上を体系的に整理しています