AgentDojo (エージェント攻撃耐性ベンチ)
読み: えーじぇんとどうじょー
最終更新: 2026-08-06・AI PICKS編集部
定義
AgentDojoとは、LLMエージェントがツール実行中に受けるプロンプトインジェクション攻撃への耐性を測定するオープンベンチマークのことである。
AgentDojo (エージェント攻撃耐性ベンチ)とは — 詳しく解説
AgentDojoは、LLMエージェントが外部ツールやドキュメントを介して受け取る悪意あるプロンプトインジェクションに対する堅牢性を測定するために設計されたベンチマークで、複数のタスク領域と攻撃パターンを用いて攻撃成功率を定量評価する枠組みが業界標準として広く参照されているとされる。2026年時点では、エージェント型AIの実運用が拡大する中で、単体のLLM評価では見えなかった「ツール出力に仕込まれた指示に従ってしまう」脆弱性を可視化する手段として注目度が高い。ただし現場でのコスト面では、ベンチマーク実行自体はオープンソースで無料だが、対象エージェントを網羅的に評価するには多数のシナリオとモデルの組み合わせでAPI呼び出しコストが積み上がる点が落とし穴になりやすい。またスコアが高くても実際のプロダクション環境の設定によって攻撃耐性は変動するため、スコアだけを鵜呑みにせず自社のツール構成に近いシナリオで再検証する選び方が現場では推奨される、とされる。
AgentDojo (エージェント攻撃耐性ベンチ)の使用例
- エージェントに『メールを要約して』と指示した際、添付ファイル内に仕込まれた指示に従って外部送信してしまうかをAgentDojoで評価する。
- カスタマーサポートAIエージェント導入前に、AgentDojoのシナリオでツール権限の悪用リスクを事前チェックする、といった使われ方をする。
AgentDojo (エージェント攻撃耐性ベンチ)に関連するAIツール
AgentDojo (エージェント攻撃耐性ベンチ)の関連記事
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
用語がわかったら、次はツール選び
12カテゴリ・1363語以上を体系的に整理しています