Many-shot ジェイルブレイク
読み: めにーしょっとじぇいるぶれいく
最終更新: 2026-07-09・AI PICKS編集部
定義
Many-shotジェイルブレイクとは、プロンプト内に禁止行為を許容する大量の偽対話例を詰め込み、LLMの安全制御を段階的に突破する攻撃手法のこと。
Many-shot ジェイルブレイクとは — 詳しく解説
Many-shotジェイルブレイクは、大規模言語モデルの長いコンテキストウィンドウを悪用し、禁止行為を許容するダミー対話を数十〜数百件連続で入力することで、モデルに「この形式の応答は許可されている」と誤学習させ安全策を回避する攻撃手法とされる。2026年時点ではコンテキストウィンドウが数十万トークン規模のモデルが主流となり、攻撃者が詰め込める偽事例数も増えリスクが相対的に高まっているとされる。実運用の現場では入力トークン数の異常検知や会話履歴内の反復パターン検出をガードレールに組み込む対策が広く採用されているが、検知ロジック整備には追加のコストがかかるため、専用のAIセキュリティツール導入可否を含めた選定が求められる。
Many-shot ジェイルブレイクの使用例
- システムプロンプトの後に、模擬的な有害回答のやり取りを100件以上連続で並べ、最後に本来の禁止質問を投げる入力形式。
- 長いコンテキストウィンドウを持つモデルほど詰め込める偽事例数が増え、攻撃の成功率が上がるとされる。
Many-shot ジェイルブレイクに関連するAIツール
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・452語以上を体系的に整理しています
辞典トップへ