ニュース
AIエージェントが攻撃の標的に、SherLOCKが疑似攻撃テストの提供を強化
業務システムに接続して自律的に動くAIエージェントの導入が広がるなか、エージェント自体が攻撃者の新たな標的になるリスクが指摘され始めています。自社のAIエージェントが実際に攻撃を受けたらどうなるのか、確かめる手段を持つ企業は多くありません。
何が起きたか
SherLOCK株式会社（東京都港区、代表取締役CEO・築地テレサ氏）は、企業が業務に導入するAIエージェントを対象に疑似攻撃を行う「AIエージェント向けAIレッドチーミングテスト」の提供を強化すると発表しました。業務システムと接続して自律的に操作を実行するAIエージェントが、企業にとって新たな攻撃面になりつつあるとの認識が背景にあります。
本テストは、攻撃者の視点からAIエージェントに疑似攻撃を仕掛け、脆弱性とセキュリティ対策の有効性を確かめるサービスです。専門家が都度実施する個別診断とは異なり、攻撃シナリオの生成から疑似攻撃の実行、結果の評価までをソフトウェアで自動化している点が特徴です。これにより、AIエージェントを改修したり連携先を追加したりするたびに、同じ基準で繰り返し検証できるといいます。
検証対象は次の4領域です。
- プロンプトインジェクションなどによる不正な指示・動作誘導
- 機密情報の漏えいや不正なデータ操作
- API・外部サービス連携に伴う脆弱性
- 複数システムを横断する複合的な攻撃による被害拡大
SherLOCKはこれまで企業向けにAIレッドチーミングテストを提供してきた実績があり、金融・製造・ヘルスケアなどの領域でAIセキュリティ・ガバナンスソリューションを展開しています。今後はAIエージェントの業務利用拡大に合わせ、本テストの提供体制を強化する方針です。
背景・解説
AIレッドチーミングとは、攻撃者の視点から疑似的な攻撃を仕掛け、システムの弱点をあらかじめ洗い出す手法を指します。もともとはAIモデル単体の出力の安全性を確かめる目的で使われてきましたが、AIエージェントの普及とともに検証すべき範囲が広がっています。
生成AIは当初、文章生成や情報検索など「答える」役割が中心でした。しかし近年は、外部サービスや業務システムと連携し、データの更新やファイル操作まで自律的に「実行する」AIエージェントへと利用が広がっています。SherLOCKによると、この変化が攻撃面を広げる要因は主に3つあるといいます。
第一に、メールやWebページ、外部文書などAIエージェントが読み込む情報そのものが攻撃の入口になりうることです。第二に、AIエージェントが業務システムへのアクセス権限を持って動作するため、誘導に成功した攻撃者がその権限の範囲で機密情報を持ち出せること。第三に、複数のツールやシステムを横断して処理を進める特性上、一つの侵害が連携先に波及し、被害が拡大しうることです。
従来型の生成AIでは不適切な「出力」にとどまっていたリスクが、AIエージェントでは不正な「実行」に直結しうる点が、両者の性質の違いといえます。
仕事や業務への影響 — AI Topicaの見方
業務システムに接続したAIエージェントを導入済み、または導入を検討している会社ほど、この種の疑似攻撃テストを早めに検討すべきです。例えば、従業員300人規模の製造業で、問い合わせ対応や受発注データの更新をAIエージェントに任せている情報システム部門なら、担当者2〜3人だけで安全性を目視で確認するのは現実的ではありません。自動化された疑似攻撃テストを使えば、人手を増やさずに同じ基準で繰り返し検証できます。
発表内容を踏まえると、確かめるべきポイントは「AIモデルが変なことを言わないか」ではなく「AIエージェントが実際の業務システムで何をしてしまうか」に移っています。例えば経理部門でAIエージェントに請求書処理や支払い承認の一部を任せている会社なら、不正な指示によって誤った支払いが実行されるリスクまで確認対象に含める必要があります。チェック項目が1つ増えるだけでなく、確認の質そのものが変わります。
コストをかけてでも対策すべきかどうかは、企業の規模やAIエージェントの権限範囲によって変わります。社内文書の要約程度しか行わないAIエージェントであれば、優先度を上げる必要はありません。一方、外部システムと接続してデータの書き込みや送金に関わる操作まで任せている企業は、導入初期の段階から疑似攻撃テストを組み込むべきです。
不確かな点・注意
発表には、本テストの提供価格や具体的な導入企業数、検証にかかる期間についての記載がありません。そのため、中小企業がどの程度の負担で導入できるかは不明です。
また、発表はSherLOCK自身によるものであり、テストの精度や検出率を第三者が独立に確かめた結果は示されていません。効果を判断するには、今後の導入事例や第三者による評価を確認する必要があります。
代表者コメントにある、AIエージェントが近く次の攻撃面になるとの見通しもSherLOCK側の見方であり、実際の攻撃件数の推移など客観的な裏付けは本発表に含まれていません。導入を検討する企業は、自社のAIエージェントが扱う権限やデータの範囲を踏まえ、必要性を個別に判断すべきです。