イラストの無断AI学習の対抗策「Nightshade」とその反応

mirium @numatakeja 画像生成AIに対する新たな防御ツール、Nightshade。記事の内容通りならメチャクチャ凄いぞこれ！！ ・わずか100枚の”毒入り”画像を学習させるだけでSDXLの出力がほぼ完全に崩壊する ・毒は伝播する。例えば毒入りの「犬」を学習させると「ハスキー」や「狼」の出力も崩壊する Glazeへの統合が楽しみだ twitter.com/TheGlazeProjec… pic.twitter.com/uKgeJYybvN 2023-10-24 23:29:46 Glaze at UChicago @TheGlazeProject By now, I'm guessing most have already seen the news on our new project, Nightshade. Lots of artists sharing it, but

[teteto]

反AI派がAI技術に傾倒する流れ、メタ的に好きです。

[hom_functor]

飛びついたGlazeがそれほどでもなかったことに反省もなくNightShadeでキャッキャしているのを見るとなんか可哀想になってくるな。半年後にはNightShadeもなかったことにして別の対策に騙されて喜んでそう

[kazatsuyu]

不正指令電磁的記録に関する罪に該当するとは思えないが、あってもなくても同じように学習できる仕組みが登場してすぐに廃れる、に一票

[cartman0]

まあ追いかけっこになるだろうけど、流石に無断学習のほうが筋悪いぞ

[n2sz]

学習前のデータクレンジングに一手間増えるだけであんまり意味なさそうだけどなあ。webサイトのrobots.txtみたいな仕組みを作っていく方が建設的じゃないかね。

[oisux]

そもそもここの開発元自体がバズ狙いというかあんまりまともな感じがせず信頼性が微妙だと思っている(Glazeも上手く行った話を聞かない)

[gomakyu]

"お金を増やしたいのに偽札防止加工が入ってる！"

[arsweraz]

学習されたくないって人の権利は何らかの形で守られるべきだと思うので、こういう対抗措置もあるべきだと思う。別に、学習されたくない人ばかりじゃないだろうし、AI推進派でもそこまで目鯨立てることでもないだろ。

[flont]

nightshadeの効果を信じてないので仮定の話でしかないけど「学習は無断でも認めるべき」という著作権法の趣旨に反する技術はそれこそ法規制されそう / 例えば同じく許可されてる引用の妨害技術が法的に許容されるか?

[featherballs2]

Glazeは反AIとか以前にサムネだけでもわかるほど画質がガビガビに劣化するので、Glaze絵を上げてる人見ると「自分の絵に愛着がない人なんだな」って思っちゃう

[shunkeen]

善悪の判断は他に任せるとして。効果的に毒を盛るならランダムに毒を混ぜたほうが効果的かな。なんならpixivみたいなプラットフォームが表示のたびに一定確率で毒を盛ったら、毒の有無を判別するの、相当めんどそう。

[sisya]

人の絵を学習させて本人の絵を貶めるような真似をするのと、毒入り画像を学習させる行為、心情的にはどちらも同じ穴の狢にしか思えない。前者は個人から訴えらる恐れが、後者は企業から訴えられる恐れがある。

[for-my-internet-demo]

変換なりレンダリングなりで簡単に突破できちゃわないのかな

[maninthemiddle]

絵を学習されたく無い人たちがまず最初にすべきことはrobots.txtに相当する「コンセンサスを得られた機械判定可能な意思表明方法」を作ることだと思う

[atsushieno]

思った通りの効果が出なかった場合にはやはり未遂罪ではなく不能犯となるべきなんだろうな（客観的危険説）

[jabberokkie]

こういうのでまず防御が出来て、その上で学習データを収集する事業者やボランティアができる流れの方が健全か。まあ「お前ナイトシェード使ってんのwww何様www」みたいな煽りレイヤー誕生するよね。

[chiguhagu-chan]

Nigjhtshadeとかいう画像を無意味にガビガビにするフィルタかけたって法に触れるわけがないんだけど、神奈川県にお住まいの方は逮捕されるからやらないほうがいいと思うよ。

[Hige2323]

そもそもデータ食わすのはAI使ってる方なので絵を置いてるだけの側が処罰されるとは思えんが/念の為に「AIデータ学習への使用を禁止します」とでも傍に書いて置けばもう食わせた方の自業自得としか

[ShionAmasato]

引用もAI学習も現行の著作権法で許諾不要になってる点は同じだけど、AIに関しては許諾不要条項に新聞などのメディアが反対してるので妨害規制より許諾不要範囲を狭める法改正の方がされる可能性が高そう

[a_dogs]

悪意を持ってわざと食わせるんでなければ自分で作って自分でアップロードするのは何の問題もなくない？

[gairasu]

これは裸の王様に成れるワクチンだね。この人たちが「毒盛ったから大丈夫」と思っている間に、これを回避して学習させてしまえば何も言わせないことができる。

[gnoname]

日本では技術的保護手段(コピーガード)を解除して（または解除されていることを知りつつ）行う複製はたとえ使用目的が「私的使用」であっても違法ですのでご注意ください

[himakao]

Glaze使ってる絵、見ためで誰でも分かる程劣化しててそこまで見せたくないなら公開するなよアホって気持ちにしかならない。

[splaut]

犬の画像をどうやって学習させたのか(追加?)とか加工した画像はどんな感じなのかとか色々解らん所が多すぎてどのくらい効果あるのかもよく解らんな。まぁ話見る限りそこまで大した影響じゃない気もするが

[toro-chan]

これウイルスになるんだっけ?んー、意図だけ見ればそうなのかもしれないけど、手段になってない。どうせすぐ無効化されるから。要は邪魔になるように祈ってるだけでしょ?呪って釘打つことは犯罪を構成しないと思う

[pendamadura]

法律違反だろうが使いたきゃ使うだけ

[evans7]

Glazeも全く話題にならなくなったし既に学習が終わったモデルがある以上どう考えても無駄。法律云々は専門家に任せるがそんなリスクが仮に1ミリでもあるならメリットと全く釣り合ってない。推奨してる人の良識を疑う。

[nomakkah]

画像を劣化縮小してからi2iしつつ再拡大すればLora学習の素材にできてしまうのでは？マイナーキャラLora作成者は人力トレースで学習素材つくるのも普通だからイラストだと学習を防げなさそう。

[ivory105]

今の無断使用データセット五億枚だっけ？それをひっくり返すのはちょっと難しいんじゃないかな…一枚で100万枚くらい汚染できるんならまだしも

[hinonono]

robots.txtはエラーで読み込めなかった場合など限界があるんで、どうしても紳士協定止まりが限界なのさ。確実を期すなら、認証しないと非表示＋利用規約で防ぐべし。なお倫理を無視する悪党まで防ぐ方法は皆無です

[Xray]

こういうのってもう一段JPG圧縮かけたら無効になるとか平気でありそうだけどな……

[colonoe]

処理してない画像と処理した画像の比較が載ってないあたり怪しい。似たような学習を妨害する技術では明らかに画像が劣化していた