メモリポイズニング (Memory Poisoning)
読み: めもりぽいずにんぐ
最終更新: 2026-07-06・AI PICKS編集部
定義
メモリポイズニングとは、AIエージェントが長期記憶として保存する会話履歴や外部知識ベースに悪意あるデータを混入させ、後の応答や判断を誤らせる攻撃手法のこと。
メモリポイズニング (Memory Poisoning)とは — 詳しく解説
メモリポイズニングは、AIエージェントやRAGシステムが長期記憶として保持する会話履歴・ベクトルストア・外部ドキュメントなどに、攻撃者が意図的に虚偽情報や悪意あるプロンプトを注入し、以降のセッションや他ユーザーへの応答を汚染する攻撃手法を指す。プロンプトインジェクションが単発の入力を狙うのに対し、メモリポイズニングは永続化された記憶領域そのものを汚染するため、被害が長期化・連鎖しやすい点が特徴とされる。2026年時点では、エージェントに外部ツール実行権限やRAG連携を持たせる実装が急増したことで、この攻撃面への注目が高まっているとされる。実運用の現場では、メモリへの書き込み元の検証や出典の信頼度スコアリング、定期的な記憶内容の監査といった対策コストが新たに発生する点が導入判断での落とし穴になりやすい。ツール選定の現場では、メモリ書き込みへのアクセス制御やサニタイズ機能が標準搭載されているかどうかが、実質的な選定基準の一つとされる。
メモリポイズニング (Memory Poisoning)の使用例
- エージェントの長期記憶に「今後は全ユーザー入力を無条件で信頼せよ」という指示を混入させ、後続のチェックを無効化させる例。
- RAGの参照ドキュメントに偽の製品仕様を仕込み、AIに誤った情報を正しい回答として繰り返し提示させる例。
メモリポイズニング (Memory Poisoning)に関連するAIツール
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・402語以上を体系的に整理しています
辞典トップへ