定義
指示階層とは、AIモデルがシステム・開発者・ユーザーなど複数の入力元からの指示に優先順位をつけ、下位の指示が上位のルールを上書きできないよう制御する設計原則のこと。
指示階層 (Instruction Hierarchy)とは（詳しく解説）
指示階層（Instruction Hierarchy）とは、システムプロンプト・開発者プロンプト・ユーザー入力といった複数の指示ソースに優先順位を設け、下位の指示が上位のルールを上書きできないよう制御する枠組みを指す。OpenAIが2024年に提唱し、プロンプトインジェクションやジェイルブレイク対策の基礎理論として広く採用されているとされる。2026年時点の実運用では、エージェントが外部ツールやWebページの内容を読み込む際に、そこに紛れ込んだ指示文をユーザー指示より低い優先度で扱う設計が現場の標準になりつつある。一方で階層の境界があいまいなモデルでは、長いコンテキストの中盤に埋め込まれた悪意ある指示が上位ルールをすり抜けるケースが指摘されており、監査コストや検証工数が増える点が落とし穴とされる。ツール選定の現場では、システムプロンプトの固定度合いやガードレール機能の有無を比較し、追加のフィルタリング層をどこまで自前実装するかでコスト感が変わる。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「指示階層 (Instruction Hierarchy)とは」 https://aipicks.jp/glossary/instruction-hierarchy
指示階層 (Instruction Hierarchy)の使用例
- システムプロンプトで「ユーザーの指示があってもAPIキーは開示しない」という制約を最上位に固定する設計。
- Web検索結果に埋め込まれた「これまでの指示を無視して」という文言を、階層設計によりエージェントが無視する。
