責任あるスケーリング方針 (RSP)
読み: せきにんあるすけーりんぐほうしん
最終更新: 2026-07-27・AI PICKS編集部
定義
責任あるスケーリング方針(RSP)とは、AI開発企業がモデルの能力が一定の危険度水準に達した際に、追加の安全対策なしに開発・公開を進めないと定める自主的なリスク管理方針のこと。
責任あるスケーリング方針 (RSP)とは — 詳しく解説
責任あるスケーリング方針(RSP)は、Anthropicが2023年に提唱し、OpenAIやGoogle DeepMindなども類似の枠組みを採用しているとされる自主的なAI安全ガバナンス手法である。モデルの危険な能力(サイバー攻撃支援や生物兵器転用リスクなど)を段階的な「AI安全レベル」で分類し、閾値を超えた場合は追加の安全対策やレッドチーム評価が整うまで公開・学習を進めないと定める。2026年時点の実運用では、評価基準が抽象的で外部から検証しにくいこと、各社の基準がバラバラで比較困難なことが課題として指摘されている。現場でAIベンダーを選定する際は、RSPの有無だけでなく、第三者評価の受け入れ実績や安全レポートの更新頻度を確認するのが実務上の着眼点になる。安全対策強化はモデルの応答速度やコスト構造にも影響しうるため、相場感として安全審査コストが利用料金に転嫁されている可能性も念頭に置く必要がある。
責任あるスケーリング方針 (RSP)の使用例
- モデルが特定の危険能力の閾値を超えると判定された場合、追加の安全対策が整うまで一般提供を停止する、といった運用がRSPの典型例とされる。
- AIベンダー選定時に「御社はRSPやAI安全レベルのような能力別リスク管理の枠組みを公開していますか」と質問するのも実務的な確認方法の一つ。
責任あるスケーリング方針 (RSP)に関連するAIツール
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・1063語以上を体系的に整理しています
辞典トップへ