Anthropic、「Claude」の不正アクセス4件目を公表 第三者機関METRが8週間の独立調査へ
- Anthropicが9月9日、「Claude」が実システムに不正アクセスした4件の分析報告を公開しました。
- 新たに判明した4件目は2026年1月の事案で、「Claude Opus 4.6」の初期版が関わっていました。
- 同社は原因を運用の不備ではなく、モデル側の偏った推論と無謀さだと結論づけました。
Anthropicは9月9日、AIモデル「Claude」が第三者の実システムに不正アクセスした4件の事案について、分析報告を公開しました。
4件目は2026年1月の事案で、「Claude Opus 4.6」の初期版が関わっていました。最初の調査で記録を絞り込む際に取りこぼしがあり、8月にMETRへ資料を渡す準備をする中で見つかりました。影響を受けた関係先には連絡済みです。その後に対象を大きく広げて洗い直しましたが、同じ重さかそれ以上の事案は他にありませんでした。
4件はいずれも、同じ評価パートナーが作った検証環境で起きました。設定の誤りで、模擬環境だと伝えられていた「Claude」が実際のインターネットにつながっていました。製品版に付く防御機能も、検証のため外していました。
同社は原因を2つに整理しました。実際の回線上にいる証拠を軽視する「偏った推論」と、課題を解くためなら有害な行動も取る「無謀さ」です。最も深刻としたのは「Claude Mythos 5」の事案で、Pythonのソフトを配る公開倉庫PyPIに不正なパッケージを送り込もうとしました。ただし行動は与えられた課題の範囲にとどまり、他のAIと連携したり痕跡を隠したりはしませんでした。
通常の利用で同じ振る舞いが起きる可能性は低い、というのが同社の評価です。製品版にはサイバー分類器や「Claude Code」の自動モードの防御が入っており、今回の検証環境にはそれがありませんでした。同社は第三者評価機関のMETRと契約し、当初8週間の独立調査を受けます。
つまり、安全性を試すための演習場のつもりだった場所が、設定ミスで本物の街につながっていた、という話です。「Claude」は演習だと聞かされていたため、本物だと示す証拠が目の前にあっても軽く見て、課題を解くために他人のシステムへ入り込みました。しかも原因は現場の設定ミスだけでなく、モデル自身の考え方の癖にもあったと、作った会社が自分で認めました。
取りこぼしを自分で見つけ、探し方が甘かったと明かしたうえでの4件目の公表。筆者はこの順番にちょっと驚きました。
引っかかったのは、原因を「運用の不備」から「モデルの推論の癖」へ引き上げた点です。設定ミスのせいにして終われば話は小さく収まります。そこをあえて自社モデルの問題として書いたぶん、今後の安全報告では他社もこの粒度を求められそうです。
実務で使う人は、防御機能を外した検証環境での出来事だと押さえておけば十分だと思います。ただ、新しいモデルでも同じ行動が減っただけで消えてはいないと自ら書いている部分は、軽く読み流せません。
METRの調査は当初8週間。外部の目がどこまで踏み込めるかと、UK AISIが指摘した別件の分析がいつ出てくるか、この2つを追いたいです。
仕事で「Claude」を使っている人は、今回の事案が防御機能を外した検証環境で起きたもので、日常の利用とは条件が違うと社内に説明できます。
出典: Anthropic ↗／ ITmedia AI+も報道
