ニュース
AIエージェントの危険操作を別AIが判定、OpenRouterが「Armor」をベータ公開
AIエージェントにファイル操作や外部送信を任せたとき、誤った指示をどう止めるかは導入企業共通の悩みです。OpenRouterが示した答えは、エージェントの操作を別のAIに監視させるという方法でした。
何が起きたか
OpenRouterは、AIエージェントの危険な操作を別のAIモデルが検出してブロックする仕組み「Armor」をベータ版として公開しました。AIエージェントが外部サービスやファイル操作を要求すると、専用の判定モデルが操作内容や会話履歴、あらかじめ設定したルールを照合し、違反の可能性を評価する仕組みです。
開発者は安全性に関するルールを自然言語で設定でき、ルールは「絶対に禁止する操作」「原則として禁止する操作」「例外的に許可する操作」の3種類に分かれています。例えば機密情報の外部送信は絶対に禁止し、ファイル削除は原則禁止としつつ、削除対象が具体的に指定された場合や、例外的に許可するルールに該当する場合は実行できる、といった運用ができます。問題ありと判定された操作は実行されず、理由はエージェントに通知される仕組みです。
Armorは、AnthropicのAIコーディングエージェント「Claude Code」が備える操作承認機能「Auto mode」と互換性があり、OpenRouterの実行環境「Ori」を経由すれば他社のAIモデルでも同様の仕組みを使えます。実際にブロックせず判定結果だけを記録する「監査モード」も用意されており、運用前にルールを検証してから本番導入できます。OpenRouterによると、Armorによる判定で追加される処理時間は中央値279ミリ秒、90％の処理は334ミリ秒以内に収まったといいます。ベータ期間中の利用に追加料金は発生しません。
背景・解説
AIエージェントとは、ユーザーの指示を受けてプログラム作成やファイル編集、外部サービスの操作まで自律的にこなすAIを指します。文章を生成するだけの従来のチャットAIと異なり、実際にコマンドを実行したり外部とやり取りしたりする点が特徴です。その分、判断を誤ると重要ファイルの削除や機密情報の流出といった実害につながる恐れがあります。
こうしたリスクへの対処法として、操作のたびにユーザーへ承認を求める方法がありますが、確認が頻発すればエージェントの利便性は損なわれます。逆にすべてを自動承認すれば、危険な操作まで素通りしてしまいます。Anthropicは同様の課題に対し、Claude Codeに操作の安全性を自動判定する「Auto mode」を導入済みで、OpenRouterのArmorはこの流れに続く形で登場した仕組みといえます。正規表現によるフィルタリングでは検知が難しい操作まで判定モデルで捉えようとしている点が、従来の単純なルールベース制御との違いです。
仕事や業務への影響 — AI Topicaの見方
AIエージェントの導入を検討する企業は、承認フローを都度人手で設計する前提を見直すべきです。例えば従業員30人規模の製造業で情シス担当が1人しかいない会社が、在庫データの照会や社外ツールへのファイル送信をエージェントに任せる場合、担当者がすべての操作を逐一承認する運用は現実的ではありません。Armorのように「絶対禁止」「原則禁止」「例外許可」を自然言語で設定できる仕組みがあれば、担当者は数十件のルールを事前に決めておくだけで、日々の承認作業から解放されます。
処理時間の中央値が279ミリ秒という数値も実務上は重要な判断材料です。1秒に満たない遅延であれば、業務フローの体感速度にはほとんど影響しません。例えば経理部門が月次の請求書処理をエージェントに任せている会社なら、1件あたり0.3秒程度の遅延が加わっても、処理全体の所要時間にはほぼ響かないと見てよいでしょう。
一方で、判定を別のAIに任せる以上、その判定自体が誤る余地は残ります。監査モードを使ってブロックせずに判定結果だけを記録し、自社の業務でよく発生する操作パターンに対してルールが意図通り動くかを数週間単位で確認してから本番運用に切り替える進め方が無難です。ルール設計を外部ベンダー任せにせず、自社の業務知識を持つ担当者が「何を絶対に止めたいか」を言語化する作業は、どの規模の会社でも省略すべきではありません。
不確かな点・注意
Armorは記事公開時点でベータ版であり、正式提供時の料金は発表されていません。設定項目や判定結果の形式はベータ期間中に変更される可能性があるとOpenRouterは説明しています。
判定モデルの精度がどの程度の業務でどこまで信頼できるかについては、公開された情報だけでは判断できません。日本語で安全性ルールを設定した場合の判定精度や、業種特有の操作パターンへの対応力も明らかになっていません。導入を検討する場合は、監査モードでの検証結果を十分に確認したうえで、自動ブロックへの切り替え時期を慎重に見極める必要があります。