攻撃成功率 (Attack Success Rate)

攻撃成功率 (Attack Success Rate)とは — 詳しく解説

攻撃成功率(Attack Success Rate、ASR)は、レッドチーミングやジェイルブレイク耐性評価において、用意した敵対的プロンプトの総試行数のうち、モデルの安全対策を回避して禁止された出力(有害情報の生成、システムプロンプトの漏洩、権限昇格の誘導など)を引き出せた割合を示す指標とされる。業界標準のベンチマークでは既知の攻撃パターン集合への成功率を算出し、モデルやガードレールの相対的な頑健性比較に使われる。2026年時点の実運用では、公開ベンチマークのASRと実際の運用環境でのASRが乖離しやすい落とし穴が指摘される。攻撃手法は日々更新されるため、ベンチマークで低ASRを示したモデルでも、新種のプロンプトインジェクションや多段階の会話型攻撃には弱いケースがあるとされる。現場では単発測定でなく継続的なレッドチーミングでASRを時系列に追う運用が広く採用されており、外部ベンダーへの委託か内製かは、扱うデータの機微性やコストの相場感を踏まえて選ぶべきとされる。

攻撃成功率 (Attack Success Rate)に関連するAIツール

LangChain

3.19無料

Stack AI

3.03フリーミアム

Mesh LLM

2.21無料

LLMAPI.JP

2.45有料

攻撃成功率 (Attack Success Rate)の関連記事

ガイド2026年8月4日NEW

AI開発会社の選び方と費用相場｜比較チェック12項目 (2026年版)

AI開発会社を比較するとき、見るべきは実績数ではありません。費用相場は小規模で50〜100万円、複雑な案件は200万円超。準委任と請負の違い、PoC倒れの避け方、データと知財の契約条項まで、発注前に確認したい12項目を発注者目線で整理しました。

関連Difyn8n

2026年8月4日

ガイド2026年8月1日NEW

BFCLとは？AIの関数呼び出し精度を比べるベンチマークの読み方 (2026年版)

BFCLはAIが外部ツールを正しく呼べるかを測るベンチマークです。V1からV4までの違い、Overall Accuracyの計算方法、FCとPromptの差、2026年7月時点の公開スコアの読み方、そして自社ユースケースで測り直す手順までまとめました。

関連ClaudeChatGPTGemini

2026年8月1日

ガイド2026年7月18日

AIエージェントおすすめ10選と選び方｜生成AIとの違いから料金相場まで一気にわかる (2026年版)

AIエージェントとは、目標を渡すと自ら計画・実行まで進める自律型AIのこと。ITreview満足度上位10製品の比較表、3系統の分類と用途別の選び方、無料〜月3万円超の料金相場、導入5ステップと失敗パターンまで、この1本で選定判断ができる2026年版ガイドです。

関連DifyClaudeChatGPT

2026年7月18日

関連用語

「評価指標」の他の用語