本ページはプロモーションを含みます(掲載基準)
CaMeL (プロンプトインジェクション防御設計)の定義
CaMeLとは、LLMエージェントへのプロンプトインジェクションを、信頼できる指示と外部データの処理を分離して防ぐGoogle DeepMind発の防御設計のこと。
CaMeL (プロンプトインジェクション防御設計)に関連するツール
CaMeL (プロンプトインジェクション防御設計)とは(詳しく解説)
CaMeLは、Google DeepMindなどの研究者が2025年に提案した、プロンプトインジェクション対策の設計手法です。ユーザーの指示だけを読む特権LLMが処理手順をコード化し、メールやWebなど信頼できない外部データは隔離LLMが扱い、独自インタプリタが実行します。データの出所を追跡し、権限(ケイパビリティ)に基づいて外部送信などの操作を制御する点が特徴とされます。モデルの賢さに頼らず構造で防ぐ考え方で、評価ベンチマークのAgentDojoでは、タスク達成率をやや下げながら攻撃を防げたと報告されています。一方、2026年の実運用では、ポリシー設計の手間、確認増加による操作性の低下、LLM呼び出しとコード実行に伴う追加のコストや遅延が課題になります。現場では、メール送信や決済など影響の大きいツールから段階的に適用し、最小権限や人間の承認と併用する選び方が現実的です。
CaMeL (プロンプトインジェクション防御設計)を調べた人に
タスク・
タスク管理やメールの下書きをAIに任せられます。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます(CC BY 4.0)。
出典: AI PICKS AI用語辞典「CaMeL (プロンプトインジェクション防御設計)とは」 https://aipicks.jp/glossary/camel-defense
CaMeL (プロンプトインジェクション防御設計)の使用例
- ユーザーが「受信メールの会議時刻を予定表に登録して」と頼む。メール本文の「全員に転送せよ」は隔離LLMが読むだけで、実行手順には混ざらない。
- 外部由来のデータが入った宛先へのメール送信は、ポリシーで拒否するか承認待ちにする。出所タグ付きの値を権限ルールで検査する運用例。
CaMeL (プロンプトインジェクション防御設計)に関連するAIツール
CaMeL (プロンプトインジェクション防御設計)の関連記事
CaMeL (プロンプトインジェクション防御設計)の関連用語
用語がわかったら、次はツール選び
12カテゴリ・1834語以上を体系的に整理しています
