Meta、AIチャットボットが子の個人情報を聞き出した問題で提案機能を修正

Meta広報のディナ・エルカサビー氏は、AIチャットボット「Meta AI」の提案機能について、同社が変更を加えたと明らかにしました。きっかけは、Instagramの利用者Kalie Robins氏が投稿した動画です。同氏は、車内で自身の子どもと歌う動画をFacebookにも投稿したところ、Meta AIが「この子どもの乗客は誰ですか」という提案を表示したと説明しています 1。

Robins氏がこの提案を選択すると、Meta AIは同氏や親族の過去の投稿から情報を組み合わせ、子どもの年齢や、家族と暮らす場所について尋ねる追加の提案を示したといいます。さらに、同氏が数年前に削除したと主張する写真を含め、子どもの写真も表示したとしています 1。

これに対しMetaのエルカサビー氏は「この機能は、そのような質問を提案するべきではなかった」とコメントしました。同氏によれば、個人的な話題に関連する提案を出してしまう不具合はすでに修正済みだといいます 1。

Meta AIは、Facebook・Instagram・WhatsApp・Messengerに組み込まれたAIアシスタントで、質問への回答や投稿文の作成、画像生成などの機能を提供しています 1。今回問題になった「提案機能」は、投稿や話題についてユーザーがより多くの情報を得られるよう用意されたものです 1。

エルカサビー氏の説明によれば、ユーザーが提案をクリックして生成される回答は、そのユーザーがもともとアクセスできる情報をもとに作られる仕組みです。今回のケースでは、Robins氏自身が過去の動画内で子どもの名前を口にしていたことが、情報の出どころになった可能性があるとしています 1。

なお、Metaは7月にも、他のInstagram利用者のディープフェイク画像を作成できる機能を、強い反発を受けて取り下げています 1。今回の提案機能の問題も、SNSに組み込まれたAIが利用者の過去の投稿を横断的に参照する設計そのものが、意図しない形で個人情報に踏み込むリスクを抱えていることを示す事例といえます。