ニュース
Microsoft、自社陣営のAIも「信用できない」と監視エージェントGuardian Agentsを発表
企業が導入したAIエージェントは、提供元を問わず「内部の脅威」になり得ます。Microsoftはこの前提に立ち、自社と関係の深いOpenAIやAnthropicのモデルも含めて監視する新機能を打ち出しました。社内でAI利用が広がっている企業ほど、見過ごせない動きです。
何が起きたか
Microsoftは月曜日、企業をAIエージェントの脅威から守る新しいセキュリティ機能を発表しました。目玉となるのが「Guardian Agents」で、企業が利用しているAIエージェントを監視する機能です。これは6月に発表された製品「Project Perception」の一部に位置づけられます。
Project Perceptionはもともと、AnthropicのMythosやFable、OpenAIのDaybreakといった強力なハッキングモデルへの対抗として設計されたものです。ハッカーのように攻撃する「レッドチーム」、それを検知・評価する「ブルーチーム」、見つかった脆弱性を修正する「グリーンチーム」という3種類のエージェントで構成されています。
この製品は当初、AIによる攻撃は社外から来るという前提で作られていました。しかしMicrosoftのセキュリティ事業責任者Hayete Gallot氏は、Guardian Agentsの発表にあたり「出自を問わず、フロンティアモデルは信頼できない」と述べ、その理由を悪意や脆弱性ではなく「予測不能である」ことだと説明しています。
あわせてMicrosoft Defenderには、Claude Code、Codex、OpenClawなど最大60種類のエージェントを検出する機能が追加されたほか、エージェントのデータ・システムへのアクセスを制限する機能、タスクに応じて権限を動的に調整する機能も加わりました。リスクの高い判断をエージェントが下そうとした場合には、人間による承認を求める仕組みも導入されています。
背景・解説
フロンティアモデルとは、各社が公開している最先端の大規模AIモデルを指す言葉です。インサイダー脅威とは、外部の攻撃者ではなく、組織内部からアクセス権を持つ人物やシステムが引き起こすリスクを意味します。今回Microsoftは、AIエージェントをこの「内部の脅威」になぞらえました。
背景には、Microsoft CEOのSatya Nadella氏の警告があります。同氏は私的ブログで、AIモデル提供企業が安全性を保証していても、それを鵜呑みにすべきではないと述べました。企業は機密データへのアクセス権や重要業務の実行権限をエージェントに与えている以上、その行動に対する責任を外部に委託できないという主張です。Nadella氏は「知能の供給と、それに対する権限を分離する必要がある」と説明しています。
この立場は一見意外です。MicrosoftはOpenAIとAnthropicの双方に出資し、OpenAIは自社クラウドの大口顧客でもあり、さらに自社でもAIラボを抱えています。つまり自社の事業上の利害に反してまで、他社モデルへの不信を広めている形です。一方で、監視ソフトをエージェントの供給元から独立させるという論理自体は、監査人が被監査組織から独立すべきだという発想と同じで、筋が通っているとも指摘されています。
さらにMicrosoftは、NVIDIAが立ち上げた「Open Agent Safety Platform」の創設メンバーにもなっています。これは100社以上の賛同を得た取り組みで、エージェントを安全な環境に隔離し、ハードウェアを通じて行動を監視・停止できる仕組みです。これに続く形で、Nvidiaチップ上で動き、エージェント向けのセキュリティ制御を組み込んだSurface Laptop Ultra PCの発表もありました。
仕事や業務への影響 — AI Topicaの見方
社内でAIエージェントを業務に使い始めた企業ほど、監視の仕組みを別立てで用意する必要があります。例えば、経理部門でAIエージェントに請求書処理や支払承認の補助を任せている従業員30人規模の製造業なら、そのエージェントがどのデータにアクセスし、どの操作を実行したかを後から追える仕組みが欠かせません。Microsoftの主張は、AIモデルの提供元自身の安全性保証だけに頼る体制では不十分だという点に尽きます。
人事や総務でAIエージェントによる採用書類の一次選考や契約書チェックを導入している企業も、同様の課題を抱えます。エージェントの判断理由が社内の規範や常識と一致するとは限らないため、リスクの高い操作には人間の承認を挟む運用に切り替えるべきです。情報システム部門が1〜2人しかいない中小企業では、エージェントごとに個別監視ツールを導入する余裕はありません。そうした会社は、既存のセキュリティ製品にエージェント検出・監視機能が標準で含まれているかどうかを、導入前の比較基準に加えるだけで十分です。
一方で、Microsoftの提案を無条件に受け入れる必要はありません。同社自身もエージェント監視製品を販売する立場であり、他社モデルへの不信を煽ることが自社のセキュリティ事業拡大につながる構図になっています。導入を検討する企業は、自社が扱うデータの機密度とエージェントに与える権限の範囲を先に洗い出し、そのうえで監視機能の必要性を判断すべきです。従業員10人以下の小規模事業者であれば、まずはエージェントに渡すアクセス権限を最小限に絞る運用だけで当面は足ります。
不確かな点・注意
Guardian Agentsの提供開始時期や価格、対応言語といった具体的な提供条件は出典に記載がなく、わかりません。Microsoft Defenderの検出機能が実際にどの程度の精度でエージェントを識別できるかも、出典からは判断できないままです。
また、「フロンティアモデルは信頼できない」というMicrosoftの主張は、自社のセキュリティ事業拡大という利害と結びついている点に注意が必要です。TechCrunchの記事自体も、Microsoftの提案を「意外であると同時に自社の利益にもかなう」と評しており、中立的な第三者検証の結果ではありません。NVIDIAのOpen Agent Safety Platformについても、仕組みの概要以上の技術的詳細は明らかにされていません。