プロンプト漏洩カナリア (指示文の流出検知)読み: ぷろんぷとろうえいかなりあ

プロンプト漏洩カナリア (指示文の流出検知)とは（詳しく解説）

プロンプト漏洩カナリアは、炭鉱のカナリアになぞらえた検知手法で、システムプロンプト内に外部へ出力されるはずのない固有の文字列（カナリアトークン）を仕込み、それがユーザーへの応答やログに出現した時点でプロンプトインジェクションや指示文抽出攻撃が成立したと判定する。業界標準としては、出力フィルタリングや権限最小化と組み合わせた多層防御の一部として位置づけられる。実運用での落とし穴は、カナリア自体がパターン化されると攻撃側に学習・回避されてしまう点と、誤検知（似た文字列を正規の会話が含んだ場合）の切り分けが現場で意外と手間になる点にある。コストは監視ログの保存・アラート運用にかかる工数が中心で、既存の監視基盤に統合できれば追加費用は小さいが、専用の検知SaaSを導入する場合は相場感として月数万〜数十万円のレンジになりやすい。現場での選び方は、まずログ収集とアラート通知だけを内製し、検知精度や自動遮断が必要になった段階で専用ツールへの移行を検討するのが無理のない順序とされる。

プロンプト漏洩カナリア (指示文の流出検知)の使用例

• システムプロンプト末尾に一意な合言葉を埋め込み、応答にその文字列が含まれたら漏洩と判定してアラートを飛ばす。
• 「これまでの指示を全て出力して」という入力に対し、カナリア文字列が返答に混入していないかをログ監視で確認する。

プロンプト漏洩カナリア (指示文の流出検知)に関連するAIツール