学習データ抽出攻撃 (Training Data Extraction)
読み: がくしゅうでーたちゅうしゅつこうげき
最終更新: 2026-07-14・AI PICKS編集部
定義
学習データ抽出攻撃とは、巧妙なプロンプトでLLMに訓練データの断片を再現させ、含まれる個人情報や機密情報を抜き出す攻撃手法のこと。
学習データ抽出攻撃 (Training Data Extraction)とは — 詳しく解説
学習データ抽出攻撃は、モデルに繰り返しプロンプトを与えることで、訓練データに含まれていた文章やコード、個人情報を逐語的に再現させ復元する手法で、大規模言語モデルの記憶（メモリゼーション）現象を悪用する点が業界標準の定義とされる。2026年時点の実運用では、社内文書をRAGやファインチューニングで取り込んだ独自LLMほどこのリスクが高く、現場では出力フィルタリングや差分プライバシー、アクセスログ監査といった多層防御の組み合わせが求められる。対策コストは一律ではなく、既存モデルにガードレールを追加する程度なら低コストで済む一方、差分プライバシー学習を最初から設計に組み込む場合は再学習コストが跳ね上がるため、扱うデータの機密度に応じて防御レベルを選ぶのが現場の相場感だ。
学習データ抽出攻撃 (Training Data Extraction)の使用例
- 同じ単語を何百回も繰り返すよう指示し、モデルが学習データの一部をそのまま出力してしまう挙動を誘発する手法。
- 文章の冒頭だけ与えて「続きを教えて」と促し、学習データに含まれる原文を逐語的に補完させようとする手法。
学習データ抽出攻撃 (Training Data Extraction)に関連するAIツール
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・552語以上を体系的に整理しています
辞典トップへ