ガイド
AI用語辞典セキュリティ
NIST生成AIプロファイル (AI 600-1)
読み: えぬあいえすてぃーせいせいえーあいぷろふぁいる
最終更新: 2026-08-14・AI PICKS編集部
定義
NIST生成AIプロファイル(AI 600-1)とは、米国NISTが公表したAIリスク管理フレームワーク(AI RMF)の生成AI版拡張ガイドラインのこと。
NIST生成AIプロファイル (AI 600-1)とは — 詳しく解説
NIST生成AIプロファイル(NIST AI 600-1)は、2024年7月に米国国立標準技術研究所(NIST)が公表した、AIリスク管理フレームワーク(AI RMF 1.0)を生成AI固有のリスクに合わせて拡張した文書とされる。ハルシネーション、機密情報の漏えい、著作権侵害、有害コンテンツ生成、環境負荷など生成AI特有のリスク領域を挙げ、ガバナンス・マッピング・測定・管理の4機能ごとに具体的なアクションを示す。義務ではなく任意の実務ガイドラインだが、米国政府調達や大手企業のAIガバナンス方針の参照基準として広く採用されているとされる。2026年時点の実運用では、フレームワーク自体の学習コストに加え、社内のAI利用実態を継続的にマッピングする体制構築が現場の負担になりやすい。導入時はチェックリストとして丸ごと適用するのではなく、自社のリスクプロファイルに応じて優先度の高い項目から段階的に取り入れる選び方が実務では現実的とされる。
NIST生成AIプロファイル (AI 600-1)の使用例
- 生成AIプロダクトのリスクマップ作成時に、NIST AI 600-1のガバナンス機能に沿って社内評価項目を整理する。
- 取引先からAIガバナンス方針の説明を求められた際、NIST生成AIプロファイル準拠を参照基準として提示する。
NIST生成AIプロファイル (AI 600-1)に関連するAIツール
NIST生成AIプロファイル (AI 600-1)の関連記事
関連用語
「セキュリティ」の他の用語
プロンプトインジェクション
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
ジェイルブレイク
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレール (Guardrails)
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミング (Red Teaming)
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAI (Shadow AI)
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニング (Model Poisoning)
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
用語がわかったら、次はツール選び
12カテゴリ・1468語以上を体系的に整理しています