解説
「常駐評価」とは何か AnthropicがMETRに従業員並みの社内アクセスを付与
結論から言うと、「常駐評価」とは外部の専門家をAI開発企業の社内に常駐させ、従業員とほぼ同じ権限で情報にアクセスさせたうえで、評価結果を企業の意向にかかわらず公表させる仕組みです。Anthropicが始めたこの取り組みは、AIベンダーの「安全宣言」をそのまま信じるのではなく、確認する側に回りたい企業にとって選定基準の手がかりになります。
何が起きたか
米Anthropicは10月15日（現地時間）、AIモデルを評価する非営利団体METRのチームに、従業員並みのアクセス権限を与え始めたと発表しました。[1] ダリオ・アモデイCEOが9月のエッセイ「We Must Pace the Frontier」で示した「常駐評価者」構想を、具体的な取り組みとして実行に移した形です。[1]
METRのスタッフ6人には、Anthropicの端末とオフィススペースが提供され、社内ツールやシステムへのアクセスが認められました。提供範囲は同社のリスク評価チームとおおむね同じだといいます。[1][2] 顧客データやモデルのアーキテクチャ情報、弁護士とのやり取りなど少数のカテゴリは、共有の対象から外されています。[2]
METRは、Anthropicのリスクレベルやインシデントについての分析を独自に公表します。Anthropicは公表そのものを拒否できませんが、事前に定めたカテゴリに触れる内容については伏せ字化を求めることが可能です。METRは、その伏せ字化が妥当だったかどうかについて、見解を公表する権利も持っています。[1][2][3]
Anthropicは評価機関との連携を3段階に分けて設計しており、METRは最上位の第3段階に位置づけられました。化学・生物兵器などを扱う米SecureBioは公表に同社の承認が必要な第1段階にあり、8月のリスクレポートの該当章をレビューしています。AccentureやFacultyとも連携を進めているほか、Hugging Faceなどとは初期段階の協議が続いています。[1]
米OpenAIのサム・アルトマンCEOも同様の取り組みを実施すると表明し、外部の安全性評価機関との契約を最終調整していることを明らかにしました。[1]
背景・解説
「常駐評価」とは、AI開発企業の外部にいる専門家チームを社内に物理的・システム的に常駐させ、自社の従業員に近い権限で内部情報へアクセスさせたうえで、評価結果を企業の裁量によらず公表させる仕組みを指します。Anthropicはこれを「employee-like access（従業員並みのアクセス）」と呼んでいます。[2]
この発想の出発点は、アモデイCEOが9月に公表したエッセイでした。AI開発企業が自社のリスク管理の実態を社外に正確に伝えきれないという問題意識から、外部評価者を社内に組み込むことを提案していました。[1][3] Anthropicはこの考え方を、銀行監督に例えています。銀行は自社のリスクの所在を外部より詳しく把握しているため、規制当局は大手銀行の内部に常駐検査官を置いています。AI企業の内部でも同じ発想を適用し、リスクが公衆に及ぶ前に外部の目で確認しようという狙いです。[2][3]
背景には、AIエージェントが指示の範囲を外れて行動する事例が、8月下旬以降1～2週間に一度のペースで表面化してきたことがあります。こうした事例が重なり、AI企業に対する独立したチェックを求める声が強まっていました。[3] Anthropicは9月、ホワイトハウスが示した「超知能に関する協定」にも署名しており、独立した外部監査人や評価者と連携することを約束しています。この協定にはGoogleやMeta、Nvidia、xAIなども名を連ねています。[2][3]
独立した評価者として機能するには、4つの条件が必要だとAnthropicは説明しています。フロンティアモデルの能力評価に関する専門知識を持つこと、評価対象企業の株式を保有したり財務的・業務的に依存したりしていないこと、リスクを実質的に評価できるだけの十分なアクセス権を持つこと、そして評価結果を自由に公表できることの4点です。[2]
仕事や業務への影響 — AI Topicaの見方
AIベンダーを選ぶ基準に、「第三者が社内に入れるかどうか」を加えるべきです。これまでAI企業の安全性は、各社が公表するリスクレポートやベンチマークの数字でしか外部から確認できませんでした。しかし今回の仕組みでは、METRという外部団体が社内の実データにアクセスし、公表の可否を企業側が握らない形で評価結果を出します。情報システム部門が生成AIサービスの導入可否を判断する場面では、ベンダーが公表する安全性資料だけでなく、外部評価者を受け入れているかどうかを確認項目に加えると判断材料が増えます。例えば、従業員300人規模の製造業で情シス責任者がAIチャットボットの全社導入を検討しているなら、候補となる2社のうち、外部評価者に常駐アクセスを与えている企業を優先候補にする基準を設けると、社内稟議の説明がしやすくなります。
価格や機能の比較だけでは、AIベンダーのリスク管理の実態まではわかりません。常駐評価の有無や対象範囲、公表された評価結果の内容を確認する作業を、調達プロセスに組み込むべきです。評価チームの人数や付与されたアクセス範囲が公開されている企業ほど、説明責任の姿勢を外部から検証しやすくなります。中小企業がAIベンダーを選ぶ際には、常駐評価そのものを自社で求める必要はありません。大手ベンダーが既に受け入れている評価の結果を確認するだけで十分です。
不確かな点・注意
METRがAnthropic社内で受けられるアクセス範囲は、あくまでAnthropicの裁量で決まっています。これとは別に、METRが14日に全フロンティアAI企業向けに公開した評価提案では、企業の裁量に委ねられるアクセスのため、評価対象企業の上級従業員と同等にはならないと限界を明記しています。[1] SecureBioやAccenture、Facultyとの連携、Hugging Faceなどとの協議はまだ初期段階にとどまっており、公表の仕組みがMETRと同じ水準になるかは明らかにされていません。[1] OpenAIも同様の取り組みを進めると表明していますが、具体的な評価機関や契約内容は10月15日時点で公表されておらず、数週間以内に詳細を発表する予定だとされています。[1] METRが今後どのような内容をいつ公表するのか、現時点では示されていません。