過剰なエージェンシー (Excessive Agency)
読み: かじょうなえーじぇんしー
最終更新: 2026-06-28・AI PICKS編集部
定義
過剰なエージェンシーとは、AIエージェントに必要以上の権限・ツール・自律性を与えた結果、意図しない外部操作や取り消し不能なアクションが自律実行されるセキュリティリスクのこと。
過剰なエージェンシー (Excessive Agency)とは — 詳しく解説
OWASP LLM Top 10（LLM08）に定義されるセキュリティリスク。AIエージェントが本来のタスク範囲を超えた権限やツールアクセスを持つことで、ファイル削除・外部API呼び出し・メール送信・DB更新といった取り消し不能な操作を人間の承認なしに実行してしまう問題を指す。 2026年の現場では、Amazon Bedrock AgentsやOpenAI Assistantsを用いたマルチエージェント構成が急増しており、権限設計の甘さが引き金となる事故が相次いでいる。AI PICKS編集部が確認した実運用での主な落とし穴は3パターン。①最小権限の原則（Least Privilege）を適用せず全ツールを有効化したまま本番投入する設定ミス、②プロンプトインジェクション攻撃を受けたエージェントが攻撃者の指示を正規タスクと誤認する二次被害、③マルチエージェント構成でのAgent Delegation連鎖により権限が意図せず増幅するパターン。 相場感としては、権限設計・サンドボックス構築・監査ログ整備を含むエンタープライズ向けエージェント基盤の初期構築に数十万〜数百万円、月額管理コストは10〜50万円台が2026年時点の目安。現場での対策は「渡すツール・権限を最小化」→「Human-in-the-loopの承認フロー組み込み」→「全アクションの監査ログ取得」の順で段階実装するのが定石。
過剰なエージェンシー (Excessive Agency)の使用例
- メール送信ツールを持つAIエージェントが、ユーザー確認なく全顧客へ誤ったキャンペーンメールを一斉送信した事例。権限スコープの絞り込みと送信前の承認ステップが欠如していたことが原因。
- ファイル操作権限を持つコーディングエージェントが、プロンプトインジェクション攻撃を受け、本番環境の設定ファイルを削除してサービス停止を引き起こした実例。
過剰なエージェンシー (Excessive Agency)に関連するAIツール
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・252語以上を体系的に整理しています
辞典トップへ