Anthropic、「Claude」悪用の調査報告を公開 中国のAI企業が出力を無断利用する手口も
- Anthropicが「Claude」の悪用事例をまとめた調査報告を公開しました。
- サイバー攻撃や監視、詐欺など幅広い分野の事例が載っています。
- 対象は2025年12月から2026年8月までに同社が止めた活動です。
Anthropicは2026年9月11日に、「Claude」が悪用された事例をまとめた調査報告を公開しました。同社の脅威インテリジェンスチームが検知して止めた活動を、分野ごとに整理しています。
対象は2025年12月から2026年8月までの活動です。サイバー攻撃、世論工作、監視、詐欺、生物兵器や通常兵器への悪用、そして不正な蒸留(他社のAIの回答を大量に集めて自社のAIを鍛える手口)を扱っています。関与していたのは国家が背後にいると疑われるグループや金銭目的の犯罪者です。監視ソフトの販売業者、国家の宣伝機関、政治的な動機を持つ個人も含まれます。
不正な蒸留では、中国に拠点を置くAI企業による継続的な試みを指摘しています。名前が挙がったのは「Alibaba」「Moonshot AI」「DeepSeek」です。競争が激しくなるなかで、こうした試みはここ数か月で増えています。
悪用に使われたのは「Claude Haiku」「Claude Sonnet」「Claude Opus」です。「Claude Fable」とMythos系のモデルでは、不正な蒸留の事例を除いて悪用は見つかりませんでした。事例には、利用者からお金をだまし取る偽の出会い系アプリ網や、反体制派を特定して監視する仕組みも含まれます。
Anthropicは事例ごとに活動を止め、そこで得た情報を安全対策の強化に反映しました。当局や業界のパートナーとも情報を共有しています。ほかの開発者が自社のサービスで似た兆候に気づけるようにすることも、公開の狙いです。
つまり、Anthropicが「うちのAIはこんな悪用をされました」と自分から公表した、ということです。詐欺グループや監視を仕掛ける組織が「Claude」を仕事道具のように使おうとしたので、見つけて止めた、という報告です。
蒸留というのは、他社のAIにたくさん質問して答えを集め、その答えを教科書にして自分のAIを育てる行為です。よくできた予備校のテキストを丸写しして、自社の教材として配るのに近い話です。
性能の話がほとんど出てこない発表です。自社のAIがどう犯罪に使われたかを、分野ごとに並べて公開しています。手口の見本を悪用する側に渡す危険もありますが、それでも出したのは業界全体で兆候を共有したほうが得だと踏んだからだと思います。
筆者が引っかかったのは、不正な蒸留の扱いです。同じ報告書に、金銭目的の犯罪者と競合のAI企業。名指しされた側から反論が出てもおかしくない、かなり強い書き方という印象です。
そういえば、この種の報告は2025年にも何度か出ていました。この頻度で続くなら、どのモデルが狙われやすいかの傾向が見えてきそうです。
導入を検討している人なら、監視と詐欺の節だけでも読んでおくと社内向けの説明が作りやすくなります。次の報告書で「DeepSeek」の名前がまた挙がるかを見たいところです。
社内でAIツールの導入を検討している人は、実際にどんな悪用が起きているかを提供元の報告で確認できるようになります。
出典: Anthropic ↗／ TechCrunch AIも報道
