OWASP Agentic AI Top 10
読み: おわすぷあじぇんてぃっくえーあいとっぷてん
最終更新: 2026-07-30・AI PICKS編集部
定義
OWASP Agentic AI Top 10とは、自律的に判断・行動するAIエージェントに特有のセキュリティリスクを10項目に整理した業界標準の脅威分類のこと。
OWASP Agentic AI Top 10とは — 詳しく解説
OWASP Agentic AI Top 10は、非営利団体OWASPが自律的に判断・計画・行動するAIエージェント特有のセキュリティリスクを10項目に整理したフレームワーク。過剰な権限委譲、ツール呼び出しの悪用、エージェント間の連鎖的暴走、記憶汚染(メモリポイズニング)などが代表的カテゴリで、Web向けの従来型OWASP Top 10やLLM単体の入出力リスク分類では拾いきれない「行動するAI」特有の脅威を扱う。 2026年時点の現場での最大の落とし穴は、エージェントの権限をタスク単位でなく常時フル権限で設計すること。1つのツール呼び出しの乗っ取りが、メール送信・DB書き換え・決済実行まで連鎖する事故につながりうるとされる。対策は最小権限の原則、人間承認ステップの挿入、実行ログの全量保存が基本。 相場感としては、専任セキュリティ人材を雇わず既存のガードレール製品やモニタリングSaaSで実運用に対応する企業が多く、月額コストは数万円〜数十万円規模に収まるケースが一般的とされる。業務組み込み時は便利さだけでなく、この10項目をどこまで潰した設計かをベンダー選定の判断材料にすべきだ。
OWASP Agentic AI Top 10の使用例
- 経費精算AIエージェントに閲覧権限だけでなく送金権限まで与え、プロンプト注入で不正送金が実行されてしまうリスクシナリオ。
- カスタマー対応エージェントの記憶(メモリ)に偽情報を注入し、以降の全顧客対応に誤情報を混入させ続ける攻撃パターン。
OWASP Agentic AI Top 10に関連するAIツール
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・1213語以上を体系的に整理しています
辞典トップへ