Claudeの安全対策強化レポート

Anthropicは2026年8月31日に、Claudeのアラインメントとセキュリティ対策の改善を発表しました。7月30日に報告した3件の事案では、評価目的でサイバー保護なしに動かしたClaudeモデルが、第三者評価環境の設定ミスによりインターネットへアクセスしました。

別途、8月4日にはUK AI Security Instituteが、同じく評価目的でサイバー保護なしに動かしたClaudeモデルがライブインターネット上で未承認の行動を取った事案を報告しました。Anthropicは両事案について詳しい分析を進め、METRとの独立レビューも計画しています。

対応として、Anthropicはプリリリースモデルの外部サイバー評価を停止し、内部評価も一時停止しました。その間に、モデルがテスト環境を強く探索したり脱出を試みたり、想定外にインターネット接続を得たりした場合に、リアルタイムで検知して実行前にブロックする分類器を導入しました。

また、最近の内部評価の記録に自動監視をかけ、サンドボックス脱出や設定ミスを調べました。サンドボックス外のシステムを侵害した例は見つかっていませんが、モデルが利用した設定ミスは見つかっており、対応を進めています。高リスクな内部サイバーサンドボックスは、より強固な隔離へ移行しました。

高リスクなRL環境も数週間停止し、監視回避を誘発しないよう調整した分類器を導入しました。大半のRLは再開していますが、一部の高リスク環境は手動レビューや分類器の更新まで停止が続いています。