クレッシェンド攻撃 (Crescendo)の使い方や活用例を教えてください

代表的な活用例は次のとおりです。「歴史を教えて」など無害な質問から始め、会話を重ねて危険な情報の詳細へ誘導する多段階プロンプト連鎖が典型例とされる。/サポートBotで序盤は雑談、終盤に規約外の対応を承諾させる誘導もクレッシェンド型の一種とされる。

AI用語辞典セキュリティ

クレッシェンド攻撃 (Crescendo)

読み: くれっしぇんどこうげき

最終更新: 2026-07-09・AI PICKS編集部

定義

クレッシェンド攻撃とは、無害な会話から始めて段階的に質問を過激化させ、LLMの安全対策を回避しながら有害な出力を引き出す脱獄攻撃の手法のこと。

クレッシェンド攻撃 (Crescendo)とは — 詳しく解説

クレッシェンド攻撃は、Microsoftの研究者が報告したLLM向けのマルチターン型ジェイルブレイク手法で、一度の悪意あるプロンプトではなく、無害な話題から始めて会話を重ねながら段階的に境界線へ踏み込んでいく点が特徴とされる。単発の危険プロンプトを検知する従来の入力フィルタだけでは通過しやすく、会話履歴全体の文脈を追わないと検知しにくいことが業界標準の課題として知られる。2026年時点の実運用では、単発プロンプトの遮断に加えて会話全体のターン推移を監視するマルチターン対応ガードレールの導入が現場で進んでいるが、監視基盤を厚くするほどAPIコストやレイテンシが増えるため、防御層の深さはリスクとコストの相場感を踏まえて選ぶ必要があるとされる。特に長い会話履歴を許容するカスタマーサポートや社内アシスタント型のチャットボットほどリスクが高いとされ、導入時は会話ターン数やトピック遷移をどこまで監視対象にするかが現場での実務上の論点となる。