KnowBe4、AIエージェントの行動を可視化・制御する新システム発表 日本提供は2027年度目標

KnowBe4は11月4日、自律型AIエージェントの行動を保護・監視・管理する防御システム「Agent Risk Manager」を発表しました。同社のプラットフォームの中核機能として位置づけられ、組織が人とAIの両方のリスクを数値化し、低減できるよう支援するとしています。

発表の背景には、AIエージェントが受信トレイの閲覧や機密データへのアクセス、業務の自律的な実行を担うケースの急増があります。一方で、個人アカウントや社内で未承認のまま使われる「シャドーAI」の実態把握は難しい状況だといいます。

Agent Risk Managerは大きく3つの機能で構成されます。1つ目は「可視化・検出」で、ブラウザー拡張機能と主要AIプラットフォームとのAPI連携により、社内のAI利用状況を洗い出しインベントリー化します。2つ目は「統制・制御」で、検出したリスクに基づきポリシーを策定し、AIのアクセス先に対して「許可」「警告」「ブロック」のいずれかを適用します。3つ目は「コーチング」で、リスクのある操作を検知した際、該当する従業員にその場で問題点を通知・解説する仕組みです。

このほか、世界7万社以上で使われているというKnowBe4のリスクスコアにAIリスクを統合する機能や、機密情報を25のカテゴリで識別して自動マスキングする機能も備えます。同製品はグローバル向けの新製品で、日本市場への提供開始は2027年度を目指すとしています。

自律型AIエージェントとは、人の指示を受けた後、メールの確認や資料作成、外部サービスへのアクセスなどを自分の判断で連続して実行するAIを指します。人が逐一操作しなくても業務を進められる反面、何にアクセスし、どんな判断をしたのかが見えにくいという課題があります。

シャドーAIとは、情報システム部門の承認を得ないまま従業員が個人的に導入・利用しているAIツールやアカウントのことです。業務用のPCやブラウザーから利用できてしまうため、会社として利用実態を把握できていないケースが珍しくありません。

Agent Risk Managerは、KnowBe4がこれまで培ってきた人的な行動分析の手法を、AIエージェントの振る舞いの分析にも応用したものです。プロンプトインジェクションや機密情報の漏えいといった脅威は、業界団体OWASPが示す代表的なAI脅威の一部とされており、今回の製品はこうした脅威の検知を主要な機能の一つに据えています。単にアクセスを遮断するのではなく、問題のある操作をした従業員にその場で理由を伝える「コーチング」を組み込んでいる点が、人的セキュリティ教育を本業としてきたKnowBe4らしい設計です。