画像生成AIの「高品質なプロンプト」を0.01秒で盗むサイバー攻撃 ドイツの研究機関が発表

Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 ドイツの研究機関CISPA Helmholtz Center for Information Securityに所属する研究者らが発表した論文「Prompt Stealing Attacks Against Text-to-Image Generation Models」は、テキストから画像を生成するモデルで生成した画像からテキストプロンプトを盗用する攻撃を提案した研究報告である。 Stable Diffusion、DALL-E 2、Midjourneyなどのテキストから画像を生成するモデルの登場以来、プロのアーティストに頼るのではなく、プロンプトと呼

[xorzx]

これってモデルの画像からモデルに似たような画像をAIに指示出来るプロンプトを生成するだけでなのに”盗む”って表現が意味不明なんだけど。

[ikihaji_kun]

他人の絵をimg2imgしたり創作の民主化（）とか言ってた奴がプロンプトの盗用は拒否してたら笑える。誰もが創作できるように共有しないとね？

[ano18]

AI絵をまんま盗用転売する輩もいるらしい。盗っ人が盗っ人から盗んでも訴えられない構図を地でいってる

[Seiji-Amasawa]

“生成した画像が与えられたとき、それに対応するプロンプトを推測することができるのか、という課題に対して今回は、生成画像からプロンプトを盗む攻撃を試みる。”

[misshiki]

“テキストから画像を生成するモデルで生成した画像からテキストプロンプトを盗用する攻撃を提案した研究報告”

[Imamura]

生成された画像からプロンプトを推測する話は半年前からあって1111のimg2imgタブにも「CLIPによる解析」「DeepBooruによる解析」ボタンがある。ここの「盗む」とimg2imgの「解析」はどう違うの??

[slkby]

画像生成AIで引き起こされていること考えると、盗むも何もこれは初めから公開されて問題ない情報

[shunkeen]

盗んだプロンプトで描き出す　行き先も解らぬまま　暗い夜の帳りの中へ　誰にも縛られたくないと　逃げ込んだこの夜に　自由になれた気がした　AIの夜

[hinonono]

プログラムのリバースエンジニアリング（合法）が近いか？盗用プロンプトそのままで画像生成するケースなら、表現の享受になって上記合法の条件からも外れるか。画像だけでなく呪文までほぼ同じになる確率も気になる

[qpci32siekqd]

プロンプトエンジニアガイド見りゃそれなりに大変そうだもんな https://github.com/dair-ai/Prompt-Engineering-Guide

[Seamless]

画像生成モデルで生成した画像からテキストプロンプトを盗用する攻撃。６万以上の画像プロンプトペアで学習。