AI脅威モデリング (Threat Modeling)の使い方や活用例を教えてください

代表的な活用例は次のとおりです。このAIエージェントがDB書き込み権限を持つ場合、想定される攻撃シナリオを3つ挙げて対策案も示して。/社内向けRAGチャットボットの脅威モデリングをSTRIDEの枠組みで整理して、優先度順に並べて。

AI脅威モデリング (Threat Modeling)

読み: えーあいきょういもでりんぐ

最終更新: 2026-07-15・AI PICKS編集部

定義

AI脅威モデリングとは、AIシステムに存在しうる攻撃経路やリスクを開発前に体系的に洗い出し、対策の優先順位を決める手法のこと。

AI脅威モデリング (Threat Modeling)とは — 詳しく解説

AI脅威モデリングとは、AIエージェントやLLMを組み込んだシステムに対し、想定される攻撃者・攻撃経路・被害シナリオを開発初期段階で体系的に洗い出し、対策の優先順位をつける手法のこと。従来のソフトウェア脅威モデリング（STRIDE等のフレームワーク）に加え、プロンプトインジェクション、学習データ汚染、ツール呼び出しの権限昇格、ハルシネーションに起因する誤操作など、AI特有のリスクを対象に含む点が特徴だ。2026年時点の実運用では、AIエージェントが外部ツールやAPIを自律的に呼び出すケースが急増しており、単発の入力検証だけでなく「エージェントに何の権限を渡すか」を設計段階で洗い出す作業が現場の焦点になっている。よくある落とし穴は、開発スピード優先で脅威モデリングを後回しにし、本番稼働後に権限過多が発覚するパターンだ。コスト面では、専任のセキュリティ担当を置かず、開発チームがワークショップ形式で半日〜1日かけて実施する簡易版が中小企業では現実的な相場感とされる。エンタープライズ向けにガバナンス基盤やMCP接続の監査ツールを併用し、継続的に見直す運用が広がっている。