ニュース
Meta、AIチャットボットが子の個人情報を聞き出した問題で提案機能を修正
SNSに組み込まれたAIが、投稿者の家族構成まで聞き出そうとする提案をしていました。自社サービスにAIを組み込む企業にとって、この事例は入力データの扱い方を見直すきっかけになります。
何が起きたか
Meta広報のディナ・エルカサビー氏は、AIチャットボット「Meta AI」の提案機能について、同社が変更を加えたと明らかにしました。きっかけは、Instagramの利用者Kalie Robins氏が投稿した動画です。同氏は、車内で自身の子どもと歌う動画をFacebookにも投稿したところ、Meta AIが「この子どもの乗客は誰ですか」という提案を表示したと説明しています [1]。
Robins氏がこの提案を選択すると、Meta AIは同氏や親族の過去の投稿から情報を組み合わせ、子どもの年齢や、家族と暮らす場所について尋ねる追加の提案を示したといいます。さらに、同氏が数年前に削除したと主張する写真を含め、子どもの写真も表示したとしています [1]。
これに対しMetaのエルカサビー氏は「この機能は、そのような質問を提案するべきではなかった」とコメントしました。同氏によれば、個人的な話題に関連する提案を出してしまう不具合はすでに修正済みだといいます [1]。
背景・解説
Meta AIは、Facebook・Instagram・WhatsApp・Messengerに組み込まれたAIアシスタントで、質問への回答や投稿文の作成、画像生成などの機能を提供しています [1]。今回問題になった「提案機能」は、投稿や話題についてユーザーがより多くの情報を得られるよう用意されたものです [1]。
エルカサビー氏の説明によれば、ユーザーが提案をクリックして生成される回答は、そのユーザーがもともとアクセスできる情報をもとに作られる仕組みです。今回のケースでは、Robins氏自身が過去の動画内で子どもの名前を口にしていたことが、情報の出どころになった可能性があるとしています [1]。
なお、Metaは7月にも、他のInstagram利用者のディープフェイク画像を作成できる機能を、強い反発を受けて取り下げています [1]。今回の提案機能の問題も、SNSに組み込まれたAIが利用者の過去の投稿を横断的に参照する設計そのものが、意図しない形で個人情報に踏み込むリスクを抱えていることを示す事例といえます。
仕事や業務への影響 — AI Topicaの見方
自社サービスやSNS上でAIチャットボットを利用している企業ほど、この事例から得られる教訓は大きくなります。例えば、従業員数50人規模の広告代理店がInstagramの企業アカウント運用にAI提案機能を使っている場合、担当者は投稿ごとに表示される提案文をそのまま公開せず、必ず内容を確認する運用を1件も漏らさず徹底すべきです。
AIの提案機能は「ユーザーが過去にアクセスできた情報」を組み合わせて生成される点が今回の要点です。つまり、企業の公式アカウントに紐づく過去の投稿やコメント、フォロワーとのやり取りが多いほど、AIが意図せず顧客情報や社員の個人情報を掘り起こす提案を出す余地が広がります。人事や広報の担当者が1人でSNS運用を兼務している中小企業では、こうした提案をチェックする体制が手薄になりやすく、外部への情報流出につながる投稿を見逃す危険が高まります。
対応策としては、AIが生成した提案や文章を公開前に必ず人が確認する二段階のチェックを設けることが有効です。従業員が10人未満の会社であれば、担当者1人でも投稿前チェックのルールを1つ決めるだけで十分です。逆に100人規模の広報チームを持つ企業なら、AI提案の採用・不採用を記録するチェックリストを用意し、月1回は運用ルールを見直す体制が必要になります。
不確かな点・注意
今回の発表は、Meta広報がThe Vergeに答えた内容にもとづくもので、修正の具体的な技術的仕組みや適用範囲までは明らかになっていません [1]。また、Robins氏が指摘した「数年前に削除したはずの写真が表示された」という点についても、Meta側からの詳細な説明は伝えられていません [1]。
修正が全世界の利用者に同時に適用されたのか、段階的に展開されているのかも出典からは分かりません。同様の提案が今後も別の形で発生しないかどうかについては、Meta側の継続的な対応を見ていく必要があります。