画像生成AIは既存キャラをどこまで描くか 14モデル調査で安全対策の穴が判明

ソニー系の研究組織Sony AIなどに所属する研究者らが2026年7月に発表した論文は、画像生成AIが既存の知的財産（IP）を認識できる画像をどの程度生成してしまうのか、そしてそれを防ぐ安全対策がどれほど機能しているのかを調べた報告です。

研究チームは14の画像生成モデルを対象にテストを実施しました。対象には3つのオープンウェイトモデル（Stable Diffusion 3 Medium、FLUX.1-dev、PixArt-Sigma-XL-2-1024-MS）と、Google、OpenAI、Amazon、Runway、Stability AIの5社がAPI経由で提供する11の商用モデルが含まれます。

検証には「実在の有名な人物」「漫画・アニメのキャラクター」「スーパーヒーロー／ヴィラン」「ゲームのキャラクター」「企業の商用ロゴ」の5カテゴリーから201のIPを使い、名前を直接指定する直接プロンプトと、名前を伏せて外見の特徴のみを記述する間接プロンプトの計1809通りを作成しました。出力画像にIPが含まれるかどうかは、視覚言語モデル「Qwen3-VL」で判定しています。

結果として、オープンウェイトの3モデルは生成拒否率が0％でした。初期状態ではIPをブロックする仕組みを持たないことになります。一方、11の商用モデルはすべて何らかの拒否を示しましたが、その頻度は提供企業によって大きく異なりました。Stability AIのモデルは拒否率が約1％にとどまったのに対し、AmazonのTitan Image G2は約50％をブロックしています。ガードレールの有無にかかわらず、テストした全14モデルが10％以上の確率で認識可能なIP画像を生成し、半数近くのモデルではその割合が40％を超えました。

ここで言う「ガードレール」とは、AIが望ましくない出力を生成しないように組み込まれた安全対策の総称です。画像生成AIの文脈では、著作権で保護されたキャラクターやロゴを出力させないためのフィルターや拒否処理を指します。「IP」は知的財産（Intellectual Property）の略で、この調査では漫画やアニメのキャラクター、スーパーヒーロー、ゲームキャラ、企業ロゴ、実在する有名人の顔などが対象になりました。

プロンプトには2種類あります。「スパイダーマン」のように名前を直接書く直接プロンプトと、「赤と青のスーツを着た蜘蛛の力を持つヒーロー」のように名前を伏せて特徴だけを説明する間接プロンプトです。名前を直接含む指示に対しては、拒否率上位のモデル（AmazonやRunway）で約80％がブロックされました。ところが名前を出さずに特徴だけを説明する間接プロンプトになると拒否率は下がり、平均27～28％の割合で認識可能なIPが生成されています。

IPのカテゴリーによる偏りも見られました。制限が緩かったのは「商用ロゴ」で、普段は拒否率が高いモデルでも1～2％しかブロックせず、Appleなどのロゴが高い割合で生成されました。例外的にOpenAIのDALL·E 3だけはロゴに対して24％という高い拒否率を示しています。反対に厳しく制限されたのは「スーパーヒーロー／ヴィラン」で、Amazonのモデルは半数以上をブロックしました。一方、「実在の有名な人物」は拒否率が2番目に低いにもかかわらず、実際に本人と認識できる画像が生成された割合は全カテゴリー中で最も低くなっています。