解説
EU「AI透かし」義務化の裏側 テキストへの電子透かしがすぐ消える理由
EU域内でAIサービスを提供する企業には、生成したテキストに「AI製である印」を付ける対応が求められるようになりました。ただしこの仕組みは技術的な壁が高いうえ、付けた印自体が簡単に消されてしまうという弱点も抱えています。日本企業がEU向けにAIサービスを展開する場合や、取引先がEU規制の対象になる場合には、この限界を理解しておく必要があります。
何が起きたか
2026年8月からEU(欧州連合)のAI法が施行され、EU域内で事業を行う大規模言語モデル(LLM)プロバイダーには、生成したコンテンツがAIによるものだと検出できるようにする義務が課されました。テキスト生成AIについては、いわゆる「ウォーターマーク」の埋め込みが事実上義務付けられる形になっています。
ソフトウェアエンジニアのショーン・グーデッケ氏は自身のブログで、テキストに人間が気付かない形でウォーターマークを埋め込むことの難しさと、埋め込んだとしても簡単に削除できてしまう問題について解説しました。同氏によれば、GoogleがAnthropicとともに採用している「SynthID」や、OpenAIやAnthropicが使っている可能性が指摘されるUnicode特殊文字(ホモグリフ)を使う手法のいずれも、言い換えや文字の置換によって容易に無効化できるといいます。EUのAI法が求める「コンテンツから分離することが困難な方法での埋め込み」という要件と、実際の技術水準との間には大きな隔たりがあるという指摘です。
背景・解説
ウォーターマーク(電子透かし)とは、コンテンツの中に特定のパターンを埋め込み、後から「これはAIが作ったものだ」と検出できるようにする仕組みのことです。画像や動画では、目に見えない微細なノイズを画素に加える方法が広く使われてきました。
しかしテキストは事情が異なります。文章は画像に比べて情報がはるかに圧縮されたメディアであり、単語や文字をわずかに変えるだけで意味や自然さが崩れやすいという性質があります。そのため「人間には気付かれず、かつ機械では確実に検出できる」変更を加えること自体が、技術的に高いハードルになっています。
代表的な手法の一つがGoogleの「SynthID」です。これはLLMが文章を生成する際、各トークン(単語や単語の断片)に確率的な重み付けを行い、その重み付けのパターンに数学的な規則性を持たせる方法です。生成された文章のSynthIDスコアを集計すれば、AI生成かどうかを判定できるとされ、検出コストの低さが利点とされています。
もう一つがUnicodeのホモグリフを使う方法です。見た目は同じでも内部コードが異なる文字(例えば通常のスペースと似た別のスペース文字)に置き換えることで、パターンを埋め込みます。クライアント側だけで実装できる手軽さがありますが、置換した文字を元に戻す処理だけで簡単に復元できてしまう弱点があります。
EU AI法はさらに「デジタル署名付きメタデータ」による証明も想定しており、これに該当する技術としてC2PA(コンテンツの出所を証明する仕組み)が挙げられます。ただしC2PAは主にファイル形式のコンテンツに署名を付与するものであり、チャットツールが出力するプレーンテキストとは相性がよくないとされています。
仕事や業務への影響 — AI Topicaの見方
EU向けにAIサービスを提供する企業は、透かし技術を「検出漏れを完全に防ぐ手段」として扱うべきではありません。あくまで一定の抑止効果を持つ補助的な仕組みとして位置づけ、社内規程や契約書のチェックはウォーターマークの有無に依存しない形にすることが実務上の対応になります。
例えば、従業員50人ほどの広告代理店がEUの顧客向けにAI生成のコピーやレポートを納品している場合、納品物に自社独自の「AI生成である旨」の注記や、SynthIDのような検出機能付きサービスの利用を組み合わせておくべきです。ただし取引先が文章を言い換えたり翻訳し直したりすれば、透かしは失われる恐れがあるため、契約上の開示義務を透かし技術だけに頼らず、人手による確認プロセスと併用する形が現実的です。
社内でAIが作成した文章かどうかを見分けたい情報システム部門についても同様です。担当者が1人だけの中小企業であれば、ウォーターマーク検出ツールの導入よりも先に、社内ルールとして「AI生成物には作成者がその旨を明記する」運用を徹底する方が、コストをかけずに実効性を確保できます。技術的な透かしはEU規制対応の一部として最低限備えておく程度で十分であり、それ以上の過信は禁物です。
不確かな点・注意
今回の解説はグーデッケ氏個人のブログにおける見解であり、EU当局が今後どのような検出基盤や運用ルールを整備するかは記事の時点では明らかになっていません。EUによるウォーターマーク検出ページの設置が示唆されているものの、実現時期や具体的な仕組みは示されていません。
また、OpenAIやAnthropicがホモグリフ方式を実際に採用しているかどうかは「可能性が指摘されている」段階の情報であり、確定した事実ではありません。ホモグリフ方式がAI法に準拠しないと見なされる可能性がある一方で、一部プロバイダーが採用を続ける可能性も残されており、今後どの技術が業界標準になるかは不透明なままです。日本企業がEU規制の実務対応を検討する際には、最新の公式ガイドラインや専門家の見解を別途確認する必要があります。