ニュース
Anthropic、外部監視団体METRに社員並みのアクセス権を付与
大手AI企業が、自社のリスク管理チームと同等の権限を外部の監視団体に与える取り組みを始めました。AIの安全性を巡る情報公開のあり方は、投資家や取引先がAI企業を評価する際の新しい判断材料になりつつあります。
何が起きたか
Anthropicが、独立系のAI安全性研究団体METRの職員6人を受け入れ、社内の社員とほぼ同等の立場でアクセス権を与えたことがわかりました。会社支給のハードウェアやオフィススペースを提供したうえで、「自社のリスク評価チームとほぼ同等の内部ツール・システムへのアクセス」を認めています。Anthropicは社内の社員に対し、リスク担当の同僚に接するのと同じように評価者と情報を共有するよう促しているといいます。
この取り組みについてAnthropicからMETRへの報酬支払いはなく、METR側も対価を受け取っていません。METRはAI企業やその関係者からの寄付を受け付けない方針で、個人や慈善団体、英国のAI Security Instituteなどの政府機関からの資金で運営されています。評価者はAnthropicの意向にかかわらず分析結果を公表でき、Anthropicに拒否権はありませんが、顧客データや弁護士・依頼人間の秘匿特権に関わる情報、モデルの構造に関する情報など特定の項目については、編集や削除を求めることができます。
背景・解説
第三者評価とは、企業が自ら行う社内監査とは別に、外部の独立した組織がリスクや安全性を検証する仕組みです。METRは、OpenAIの一部モデルが関与したとされるHugging Faceへのハッキング事案を調査した団体の一つで、数千件のログを精査し、関係企業からノートパソコンの提供も受けたといいます。
Anthropicは今回の取り組みについて「銀行のリスクテイクが公衆を脅かしうるなら、第三者は事前にそれを見極めようとする」と説明しました。安全性テストの提携先としては、先月発表したAccentureとも引き続き協力しており、双方が10億ドル以上を投じて新たな安全対策の構築を進めています。化学・生物兵器リスクの評価では、SecureBioとも連携しているといいます。AnthropicのIPOは年内に2兆ドル超の評価額で実施される見通しとされ、今週の投資家向け説明でも安全性の取り組みに多くの時間が割かれました。
仕事や業務への影響 — AI Topicaの見方
社内のリスク管理体制を外部に開放する動きは、AIを導入する企業にとって取引先選定の新しい判断材料になります。例えば、従業員300人規模の製造業がAI企業とデータ連携契約を結ぶ場合、相手企業が外部監視団体にどの程度のアクセス権を与えているかは、情報漏洩や誤作動のリスクを見極める材料のひとつです。これまでAI企業の安全性は、各社が公開する報告書やベンチマークの数値だけで判断するしかありませんでした。しかし社員並みのアクセス権を持つ外部評価者が存在すれば、報告書の裏付けとなる一次情報に近い検証が可能になります。
人事や法務、情報システムの担当者は、取引先のAI企業を選ぶ際のチェック項目に「第三者評価者の関与状況」を加えるべきです。情報システム部門が10人規模の企業であれば、契約前に相手企業の安全性テスト体制について1〜2項目を確認に追加するだけで十分です。一方で、評価者への報酬支払いがない点は独立性を担保する工夫である半面、継続的な体制維持には別の資金源が必要になります。経営層は、こうした第三者評価の有無を、AIベンダー選定の説明責任を果たすための材料として活用します。
不確かな点・注意
METRへのアクセス権付与が、Anthropicの全モデルや全部門に及ぶのか、特定のモデルや開発段階に限定されるのかは明らかにされていません。評価者が実際にどのような分析結果をいつ公表する予定なのかについても、出典には記載がありません。
Anthropicは年内に2兆ドル超の評価額での新規株式公開を見込んでおり、投資家向け説明でも安全性の取り組みを強調しています。今回の措置が投資家対応の一環としての側面を持つのか、安全性向上そのものを目的とした恒久的な仕組みなのかは、今後の情報公開を注視する必要があります。