混乱した代理人 (Confused Deputy)
読み: こんらんしただいりにん
最終更新: 2026-07-09・AI PICKS編集部
定義
混乱した代理人とは、正当な権限を持つプログラムやAIエージェントが、悪意ある入力に騙されてその権限を不正利用させられてしまう脆弱性のこと。
混乱した代理人 (Confused Deputy)とは — 詳しく解説
混乱した代理人（Confused Deputy）とは、正当な権限を持つプログラムが悪意ある入力に騙され、権限を不正利用させられるセキュリティ脆弱性の概念のこと。1988年提唱の概念だが、2026年現在はファイル操作やAPI呼び出しなど強い権限を持つAIエージェントの文脈で再注目されている。悪意あるWebページやメールに埋め込まれた指示文（プロンプトインジェクション）を読み込み、ユーザーの意図と無関係な操作を実行してしまう危険がある。実運用の定石は権限の最小化と実行前の人間承認ゲートで、省くと重大インシデントのリスクを抱える。
混乱した代理人 (Confused Deputy)の使用例
- ブラウジング権限を持つAIエージェントが悪意あるサイトの指示に従い、決済フォームを勝手に送信する。
- メール転送権限を持つ社内Botが、悪意あるメール本文の指示で機密情報を外部に転送してしまう。
混乱した代理人 (Confused Deputy)に関連するAIツール
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・452語以上を体系的に整理しています
辞典トップへ