ニュース
MetaのAI「Muse」、家族や友人の「人物ページ」を自動作成と判明
仕事の予定管理や連絡の代行をAIエージェントに任せる企業が増えつつあります。その裏側で、利用者本人だけでなく周囲の人物の情報まで自動で蓄積される設計が採られていることが明らかになりました。取引先や同僚の情報をどこまでAIに預けてよいのか、改めて考える材料になります。
何が起きたか
独立系のAI安全・セキュリティ研究者であるカラン・ジョシ氏が、MetaのAIエージェント「Muse」の通常のチャット画面を使い、内部ファイルをコピーさせる形で大量の動作指示やシステムプロンプトを抽出したと報じられています。抽出内容はWIREDに提供されました。
ジョシ氏が抽出した内部指示には、「ユーザーの人生に登場するすべての人物についてページを作成する」よう求める記載がありました。対象には家族やパートナー、友人、同僚、共同作業者に加え、ユーザーがフォローしている人物も含まれ、ページを更新する処理は1時間ごとに実行されるとされています。
人物ページには「Facts(事実)」「History(履歴)」「The relationship(関係性)」「In common(共通点)」「Open threads(継続中の話題)」「Strengthening(関係を深める方法)」といった項目が設けられています。引っ越しや貯金目標、誕生日や記念日、過去の旅行、解決した口論といった出来事も追加される仕組みです。内部指示には、根拠のある情報だけを使い、項目を空欄にするより架空の情報を作る方が問題だという記載もありました。
Metaの広報担当者ダニエル・ロバーツ氏は、AIエージェントが目的を達成するには本人や周囲の人物に関する背景情報が必要だと述べています。なお、Museを巡っては以前にも、許可していないはずのメッセージを読み取ったとの指摘や、Facebook Marketplaceでの商品販売を任せたところ購入希望者に自宅住所を伝えた事例が報じられています。
背景・解説
パーソナルAIエージェントとは、利用者個人のスケジュールや連絡先、過去のやり取りを踏まえて代行作業をこなすAIの総称です。単発の質問に答えるチャットボットと違い、継続的に情報を蓄積し、次第に利用者の生活や人間関係に合わせた提案ができるようになる点が特徴とされています。
MuseはそうしたパーソナルAIエージェントの一例で、Meta広報の説明によれば、公開情報と利用者自身が共有した情報を基に、請求書を送ってきた人物が以前依頼した配管工だったことを覚えたり、配偶者が好きだと言っていた花を思い出したりできるといいます。こうした機能を実現するには、利用者本人だけでなく周囲の人物に関する情報も継続的に保持する必要があり、今回抽出された「人物ページ」はその土台にあたる仕組みだと見受けられます。
一般的なAIチャットは会話が終わるとその場の文脈が失われますが、Museのような設計では会話の外側で人物ごとの情報が時間をかけて蓄積されていく点が従来型との違いです。
仕事や業務への影響 — AI Topicaの見方
取引先や同僚の名前を出してAIエージェントに相談する機会が多い職種ほど、この仕組みの影響を具体的に見積もっておくべきです。例えば、従業員30人の広告代理店で営業担当者がクライアント対応の下書きや日程調整をMuseのようなAIエージェントに任せる場合、クライアント企業の担当者名や過去のやり取り、個人的な話題までが人物ページとして1時間ごとに蓄積されていく形になります。社外秘のプロジェクト名や取引条件が会話に含まれていれば、それも同じ仕組みで記録される対象になります。
導入を検討する管理職は、業務利用を許可する範囲を「本人の予定管理まで」とするか「取引先とのやり取りまで含める」とするかを、部署ごとに線引きすべきです。総務や人事の担当者1人が社員の個人的な相談ごとにAIエージェントを使う場合と、営業部門10人が顧客対応全般に使う場合とでは、蓄積される第三者情報の量が大きく異なります。後者のケースでは、顧客情報の取り扱い規程に照らして利用範囲を事前に文書化しておく必要があります。
一方で、過去の旅行や解決した口論まで記録する機能は、私的な利用では関係維持に役立つ場面もあります。業務とプライベートの利用アカウントを分けて運用するだけでも、情報の混在は相当抑えられます。
不確かな点・注意
人物ページに蓄積された情報が実際にどこまで外部に共有されるか、利用者本人以外が閲覧できるのかといった具体的な運用範囲は、今回の報道だけでは判明していません。Meta広報の説明は機能の目的に関するものであり、保存期間や削除手段についての言及はありませんでした。
Museの提供地域や日本国内での利用可否についても出典には記載がなく、この記事の時点では確認できていません。また、過去に報じられたMarketplace対応での住所漏えいのような事例が、今回判明した「人物ページ」の仕組みと直接関係しているかどうかも明らかではありません。利用を検討する際は、公式のプライバシー設定や利用規約を個別に確認することが欠かせません。