AI画像の「透かし」はなぜ追跡用の「スパイマーク」になり得るのか

AIを用いた画像・動画制作ソフトを開発するArtCraftの創業者ブランドン・トーマス氏が、AI生成コンテンツの真正性を証明する「ウォーターマーク透かし」とよく似た技術の中に、ユーザーを追跡する目的を持つものが紛れ込んでいると指摘しました。

トーマス氏は、こうした追跡用の技術を従来の透かしと区別するため「スパイマーク」という新しい呼び方を提案しています。本来ウォーターマークという言葉は、真正性の証明や著作権表示といった悪意のない目的で使われてきましたが、近年は隠された追跡信号としての意味合いが強まり、プライバシーリスクが曖昧になりつつあると述べています。

具体例として挙げられているのが、GoogleのSynthIDです。画像・音声・テキスト・動画に人間には感知できない隠し信号を埋め込む仕組みで、画像用の変種であるSynthID-Oは512×512ピクセルの画像に64ビットのデータベース識別子と、エラー訂正用の72ビットを格納できる容量を持つとされています。SynthIDに限らず、OpenAIを含む複数のテクノロジー企業が、AI生成コンテンツの識別を目的とした同様のシステムを開発しているといいます。

「ウォーターマーク」と「スパイマーク」は、見た目の仕組みは似ていても目的が異なります。ウォーターマークは本来、紙幣の偽造防止や写真の著作権表示のように、誰が見てもその存在がわかり、持ち主や発行元が何かを証明するための印です。一方スパイマークは、ユーザーの知らないうちに、あるいは同意なしに埋め込まれ、コンテンツの利用状況を追跡することを目的とした、目に見えない信号を指します。

スパイマークと一般的な「メタデータ」も区別して理解する必要があります。画像のEXIFタグやMP3のID3タグといったメタデータは標準化されており、誰でも検査・編集・削除が可能です。これに対してスパイマーク信号はメディアの深層に埋め込まれ、ユーザーからは見えず、ファイルを編集しても残存する場合があります。しかも、ファイルに関する有用な情報を提供するのではなく、ユーザーにとって不透明で無用な追跡識別子をエンコードする点が、通常のメタデータとの明確な違いだと説明されています。

技術的には、画像の場合、周波数領域での不可視な変更によって、ユーザーにリンクされたデータベースIDなどの追跡情報を運ぶことができるといいます。元記事では実際にオリジナル画像とスパイマーク入り画像を比較する例が示されていますが、目視では違いがわかりません。隠し信号には氏名・IPアドレス・生年月日・住所・所属政党といった身元情報に対応するデータベース識別子をエンコードできるとされ、ソーシャルメディアやコンテンツ制作ツール、スマートフォンなどにこうしたアルゴリズムが搭載されれば、ユーザーが公開するあらゆるコンテンツにスパイマークが埋め込まれる可能性は十分にあります。