トークン長サイドチャネル攻撃
読み: とーくんちょうさいどちゃねるこうげき
最終更新: 2026-07-30・AI PICKS編集部
定義
トークン長サイドチャネル攻撃とは、暗号化された LLM の応答でも、トークン数や応答長の変化から質問内容や機密情報の一部を推測できてしまう脆弱性のこと。
トークン長サイドチャネル攻撃とは — 詳しく解説
トークン長サイドチャネル攻撃とは、LLM の出力自体を復号できなくても、ストリーミング配信時のトークン単位のパケットサイズや応答文字数・トークン数のパターンから、やり取りされた質問や回答の内容を高い確率で推測できてしまう脆弱性を指す。TLS で通信を暗号化していても、トークンごとに逐次送信する実装ではパケット長の系列がテキストの構造をそのまま反映してしまうため、暗号化だけでは情報漏洩を防げないケースがあるとされる。対策としてはレスポンスをまとめて送る、パディングでパケット長を均一化する、固定間隔でのバッチ送信に切り替えるといった手法が提案されている。2026年時点の実運用では、こうした防御はレイテンシとのトレードオフになりやすく、現場ではまず機微情報を扱う用途かどうかで対策コストを判断する選び方が広がっている。一般向けチャットボットは許容リスクとして残す一方、医療・法務・金融系のAPI連携ではパディングやバッチ化のコストを払う、という相場感がすり合わせの対象になっている。
トークン長サイドチャネル攻撃の使用例
- 医療相談チャットボットの応答トークン数から、患者の症状カテゴリを外部から推測されるリスクケース。
- ストリーミングAPIのパケット長ログを解析し、暗号化された質問内容を復元しようとする攻撃シナリオ。
トークン長サイドチャネル攻撃に関連するAIツール
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・1213語以上を体系的に整理しています
辞典トップへ