ニュース
Anthropic悪用レポート、中国AI企業5社の「蒸留」と国家の監視・世論操作を列挙
AI企業自身が公表する悪用レポートは、他社サービスの安全性を測る材料にもなります。今回の内容は、AIの悪用が国家機関から競合企業まで広がっている実態を示しており、自社のAI利用先を選ぶ際の判断材料としても読む価値があります。
何が起きたか
米Anthropicは9月10日（現地時間）、自社AI「Claude」の悪用事例をまとめた脅威インテリジェンスレポートを公開しました。2025年12月から2026年8月までに検知・遮断した事案を、サイバー攻撃、影響工作、監視、詐欺、生物学的悪用、通常兵器開発、蒸留の7分野に整理しています。悪用されたのはClaude Haiku、Sonnet、Opusで、上位モデルのFableとMythos系については蒸留の1件を除いて悪用は確認されなかったといいます [1]。
生物学的悪用は5件報告されました。鳥インフルエンザの機能獲得研究や、毒素ペプチドのデータベース作成と毒性を最適化する生成パイプラインの構築などが含まれます。ワクチン開発などの正当な研究と手法が重なるため悪意の有無を判定できないケースがあり、安全性を優先して遮断したといいます [1]。
国家系機関による悪用も報告されています。中国の国家安全機関に連なるアカウント群が反体制活動の抑え込みにClaudeを使っていたとして遮断されました。影響工作では9件が報告され、ロシア国営メディア向けの記事制作ラインや、フランスの広告会社が約70の偽ニュースサイトで約8900本の記事を配信していた事例が挙げられています [1]。
蒸留については、Alibaba、DeepSeek、Moonshot AI、MiniMax、Z.aiという中国のAI企業5社を名指ししました。偽アカウントや盗まれたクレジットカード、認証情報を使ってモデルの能力を無断で抽出し、別のモデルに複製する「産業規模の隠密キャンペーン」と位置付けています。Xiaomiについては、自社モデルとの会話を保存し、同じやり取りを改めてClaudeに投げて学習データを生成していたことも明らかにしました。プロキシ経由で1500以上のアカウントから40万件を超えるリクエストがあったといいます [1]。
背景・解説
「蒸留」とは、あるAIモデルの応答をもとに別のモデルを学習させ、開発コストや期間をかけずに近い性能を得る手法を指します。技術自体は珍しいものではありませんが、今回のレポートでは、正規の契約を経ずに他社のモデルへ不正にアクセスし、応答データを抜き取る行為として問題視されています。
Anthropicはこの種の脅威レポートを2025年3月、8月、11月にも公開しており、今回で4回目にあたります。2月にはDeepSeek、Moonshot、MiniMaxによる約2万4000の不正アカウントと1600万回超のやり取りを、6月にはAlibabaによる蒸留を個別に指摘しており、今回のレポートはこれらの調査を包括的な枠組みに取り込む形で公表されました [1]。
公開の前日には、Anthropicを退職した元従業員がSNS上で同社の安全性への取り組みを批判する投稿を行い、他の元従業員が同調する動きもありました。年内のIPOを控える中での公開でもあり、AI企業自身が示すリスクの見取り図として通常より読まれています [1]。
仕事や業務への影響 — AI Topicaの見方
自社の従業員が業務でどのAIサービスを使っているかを把握していない会社ほど、今回のレポートが示すリスクを見過ごします。例えば、従業員80人の製造業で設計データや顧客情報をチャットAIに入力させている会社があるとします。そのAIが海外の別モデルへ応答データを転送する仕組みを持っていた場合、入力した情報が意図しない形で外部に渡る恐れが生じます。Xiaomiの事例では、会話ログに氏名や連絡先、企業データが含まれていたことが報告されており、これは他人事ではありません。
管理職や情シス担当者は、業務で使うAIサービスの提供元と、そのサービスが他のモデルへデータを中継していないかを確認すべきです。契約前に提供元へ「入力データの転送先」を書面で確認する作業は、担当者1人でも半日あれば済みます。逆に、確認を怠ったまま全社導入を進めると、後から情報流出の調査対応に数週間を要することになります。
国家機関による監視や世論操作の事例は、海外拠点を持つ企業にとっても無関係ではありません。例えば、アジアに駐在員を置く商社であれば、現地でのSNS運用や情報発信を外部委託する際に、委託先が使うAIツールの出所を確認する項目を契約書に一つ加えるだけで、リスクの一部は防げます。
不確かな点・注意
生物学的悪用の事例については、研究者名や所属機関、対象となった病原体が公表されておらず、どの程度深刻な事案だったかを外部から検証できません。Xiaomiによる蒸留の目的についても、Anthropicは教師ありファインチューニングと強化学習向けのデータ作成が目的と見ていますが、これは推測に基づく記述であり、確定した事実ではない点に注意が必要です。
また、今回名指しされた中国企業5社の側からの説明や反論は、この記事の出典には含まれていません。レポートはAnthropic側の視点でまとめられたものであり、一方の当事者による発表である点も踏まえて読む必要があります。