Claudeの発表内容
米Anthropicは、AIの応答が指定したモデルから生成されたかを暗号技術で検証する「FlashProve」を公開しました。AIモデルの「Claude」が暗号方式の改良を担い、実行コードや仕様書をApache 2.0ライセンスで提供します。
FlashProveは、ゼロ知識証明と呼ばれる暗号技術を用いてモデルの重みを隠したまま推論を証明します。1,024トークンの要求に対する証明の大きさは約19MBです。
このシステムでは、形式検証言語「Lean」を用いて安全性の数学的保証を記述しています。検証用のプログラムとして、処理速度を優先したC++版と正確性を保証したLean版の2種類を用意しました。
外部の仲介サービス経由でモデルを利用している企業は、意図しない廉価モデルへのすり替えがないかを確かめられます。AIの安全性をテストする評価機関にとっても、検査対象のモデルが実際に動いていることを確認する手段になります。
つまり、どういうこと？
ネット通販でブランド品を頼んだとき、本物であることを証明する鑑定書が付いてくるような仕組みです。AIの画面では、本当に指定した上位モデルが動いているのか、裏で安いモデルにすり替えられていないかが外見からは分かりません。FlashProveは、モデルの秘密を守ったまま本物だと証明するデジタル鑑定書を発行します。
編集部の見方
暗号アルゴリズムの改良や仕様書の作成を「Claude」自身が担っている点に、筆者はかなり驚きました。従来のシステムより桁違いに速いとはいえ、通常の実行に比べて70倍から95倍の計算時間がかかります。実運用にはまだまだ重い印象です。
計算コストの壁。
ただ、第三者の配信事業者を通じたモデルの不正な差し替えを防ぐ基盤としては、筋の通ったアプローチだと思います。APIの仲介サービスを仕事で多用している人なら、こうした真正性の保証はいずれ無視できなくなりそうです。まずは各社のクラウド基盤がこの検証コードを実際に組み込むかを確かめたいところです。
誰に関係するか
外部の配信基盤経由でAIを使っている人は、支払った通りの正規モデルが応答しているかを暗号技術で確認できるようになります。
出典: Anthropic ↗／ TechCrunch AIも報道
