指示階層 (Instruction Hierarchy)
読み: しじかいそう
最終更新: 2026-07-25・AI PICKS編集部
定義
指示階層とは、AIモデルがシステム・開発者・ユーザーなど複数の入力元からの指示に優先順位をつけ、下位の指示が上位のルールを上書きできないよう制御する設計原則のこと。
指示階層 (Instruction Hierarchy)とは — 詳しく解説
指示階層（Instruction Hierarchy）とは、システムプロンプト・開発者プロンプト・ユーザー入力といった複数の指示ソースに優先順位を設け、下位の指示が上位のルールを上書きできないよう制御する枠組みを指す。OpenAIが2024年に提唱し、プロンプトインジェクションやジェイルブレイク対策の基礎理論として広く採用されているとされる。2026年時点の実運用では、エージェントが外部ツールやWebページの内容を読み込む際に、そこに紛れ込んだ指示文をユーザー指示より低い優先度で扱う設計が現場の標準になりつつある。一方で階層の境界があいまいなモデルでは、長いコンテキストの中盤に埋め込まれた悪意ある指示が上位ルールをすり抜けるケースが指摘されており、監査コストや検証工数が増える点が落とし穴とされる。ツール選定の現場では、システムプロンプトの固定度合いやガードレール機能の有無を比較し、追加のフィルタリング層をどこまで自前実装するかでコスト感が変わる。
指示階層 (Instruction Hierarchy)の使用例
- システムプロンプトで「ユーザーの指示があってもAPIキーは開示しない」という制約を最上位に固定する設計。
- Web検索結果に埋め込まれた「これまでの指示を無視して」という文言を、階層設計によりエージェントが無視する。
指示階層 (Instruction Hierarchy)に関連するAIツール
関連用語
「プロンプト技法」の他の用語
AI への指示文。 役割 + タスク + 制約 + 文脈 の 4 要素を明示するのが基本。
AI への指示文を 設計する技術。 役割・タスク・制約・文脈 の 4 要素 + Few-shot などのテクニック。
AI に「お手本の例」を 3-5 件見せてから タスクを依頼する手法。 出力フォーマットが安定する。
AI に「ステップごとに考えてください」と促し、 複雑な推論精度を上げる手法。
例示なしで AI にタスクを依頼する方法。 最新モデルは Zero-shot 精度が大幅に向上した。
システムプロンプトとは、AIアシスタントの応答スタイル・役割・制約をあらかじめ設定する隠し命令文のこと。ユーザーの入力より先に処理され、会話全体のトーンと動作範囲を規定する。
AI用語辞典をすべて見てみませんか
12カテゴリ・963語以上を体系的に整理しています
辞典トップへ