画像生成AIに｢毒を盛る｣。アーティストの権利を守るためのツール登場

画像生成AIに｢毒を盛る｣。アーティストの権利を守るためのツール登場2023.10.26 21:0081,577 Kyle Barr - Gizmodo US ［原文］ （ 岩田リョウコ ） AIに毒を盛る秘策。 アーティストが自分の作品をAIトレーニングに使用されることと戦う手段ってあるのでしょうか。それを研究している人たちがいます。 シカゴ大学のコンピュータサイエンスの教授Ben Zhao氏は、彼のチームが｢Nightshade｣という名前のツールを開発したとMIT Technology Reviewに語っています。 毒を盛った画像でトレーニングさせる作戦今のところ、アーティストがAI企業に対抗する唯一の選択肢は、訴訟を起こすこと。もしくは、開発者がアーティストが許諾しない意思に従ってくれることを願うことくらいしかできない状況です。 しかしこのツールは戦う姿勢を見せまくりです。なんとア

[keshimini]

イイね。AI推進の基本スタンスが「技術的に可能で法にも触れないなら好き勝手やらせろ」なので、対抗手段も同様に「技術でブン殴る」になるのは必然だ。これでAI側もLoseが大きくなれば少しは配慮を学ぶんじゃない？

[rck10]

いいじゃん。学習データとして募集した中に入れたらそりゃ悪意ある破壊だけど、TwitterとかPixivとかに上げた画像をAIが勝手に学習してるだけならAIの都合なんて知ったことではない。

[mahinatan]

AIを容認してるアーティストの作品だけでモデル作ってくれたらいい。

[ikihaji_kun]

画像生成AIにAI生成画像を学習させ続けると品質や多様性が低下するって話だったので、Nightshadeに反対する人はAI生成の明示義務に賛成してね

[kakei-akihiko]

アーティストの権利を守るとかじゃなくて不正アクセスかと。新種の水飲み場攻撃。

[pecan_fudge]

毒を解除する技術が開発されて、いたちごっこになる未来が見える

[hom_functor]

あまり技術を分かっていない人たち相手に原理的な限界を隠して期待感あるタイトルで釣るいつものやつ

[ni_ls]

これ系の話題で竜頭蛇尾ばっかり見てきたので手放しにすげーとはまだ言えない

[misshiki]

“Nightshadeは、ピクセルレベルで画像を操作し、肉眼では検出できない方法でその画像を破壊します。”

[pwatermark]

ま、「そういうものとしてトレーニングに取り入れる」か、「判別して排除する」だけですけどね 敵対したいならどうぞ好きにすればいいんじゃねえの？

[secseek]

金儲けじゃなくてこういうことにこそNFTを使えばいいのに。AIが学習する過程でデータ消されたらなんにもならないのかもしれませんけど

[hinonono]

いたちごっこはあくまでも、コンピュータウイルス側開発者vsワクチン側開発者。ウイルス本体は圧倒不利で、新型に置換されねば無効化される。この画像埋め込み毒は、感染で広がれずその場に物証を残す、更に圧倒不利

[bean_hero]

マフィンをチワワと認識するように（違