PagedAttention (ページ化注意)
読み: ぺーじどあてんしょん
最終更新: 2026-07-19・AI PICKS編集部
定義
PagedAttentionとは、LLM推論のKVキャッシュをOSのページング方式でブロック単位管理し、メモリ断片化を抑えて処理効率を高める仕組みのこと。
PagedAttention (ページ化注意)とは — 詳しく解説
PagedAttentionは、大規模言語モデルの推論時に生成されるKVキャッシュを、OSの仮想メモリにおけるページング技術になぞらえて固定サイズのブロック単位で管理する手法で、vLLMなど一部の推論エンジンで採用されているとされる。連続領域を事前確保する従来方式では未使用領域が生じてメモリ断片化を招きやすかったが、ブロック分割により無駄を抑え、同時に処理できるリクエスト数（バッチサイズ）を増やせるとされる。2026年時点の実運用では、GPUメモリの使い方がそのままサーバー台数=コストに直結するため、推論基盤を選ぶ現場ではPagedAttention対応の有無がGPU調達コストの相場感を左右する要素の一つとして意識される。ただし長文脈やマルチターン対話ではブロック管理のオーバーヘッドや断片化の再発が起きうる点、モデルやフレームワークによって実装差がある点は落とし穴として留意が必要とされる。
PagedAttention (ページ化注意)の使用例
- vLLMなど一部の推論サーバーはPagedAttentionや類似のブロック管理方式を採用しているとされる。
- セルフホストLLM基盤の検討時、対応推論エンジンかどうかがGPUコスト試算の分岐点になるとされる。
PagedAttention (ページ化注意)に関連するAIツール
関連用語
「インフラ・学習」の他の用語
既存の AI モデルを 自社データで追加学習させて 専門特化させる方法。
データから法則を自動学習させる AI 技術の総称。 ディープラーニングや LLM もここに含まれる。
ニューラルネットワークを多層化した機械学習手法。 LLM / 画像認識 / 音声認識 の基盤技術。
Self-Attention 機構を中核とするニューラルネット構造。 LLM / 画像 / 音声 すべての基盤。
入力系列のどこに注目すべきかを 動的に重み付けする仕組み。 Transformer の中核。
LoRAとは、大規模モデルの重みを凍結したまま低ランク行列ペアを追加挿入することで、全パラメータの1%以下の計算コストで特定ドメインへの適応を実現するファインチューニング手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・713語以上を体系的に整理しています
辞典トップへ