【公式声明発表済】イラスト生成AI「NovelAI」のモデルデータが流出？情報が不確かで偽物・マルウェアの可能性があるという指摘も

話題となっているイラスト生成人工知能「NovelAI」のモデルデータが流出したというツイートが話題になっています。偽物やマルウェアではという指摘がある一方で、本物ではないかという意見もあり、状況は不透明な状況です。

[flont]

展開が速い / id:snipesnaps モデルという名前からは想像つかないけども中身はデータ記述用のプログラミング言語なので、Pythonの関数呼び放題

[snipesnaps]

学習モデルにマルウェア仕込むという可能性が少し理解できん。不可能とは言わないけどあるとしたらバッファオーバーフローあたりかなとは思うが絵描かすパイソンに仕込んで動作する事例ある？

[knok]

当該スレッドを見てみたけど、ckpt形式だと実体はpickleなので確かに任意コードを実行できる可能性はある https://www.reddit.com/r/StableDiffusion/comments/xxfrw0/comment/irc8ce7/?utm_source=share&utm_medium=web2x&context=3

[qpci32siekqd]

StableDiffusionとの違いは、HyperNetworksという手法を使っているらしい。AUTOMATIC 1111のブランチにトレーニング用らしいGUIが追加されている。HyperNetworksをSytleGANに適用させたのを見ると確かに綺麗https://github.com/yuval-alaluf/hyperstyle

[sekiryo]

パスワードがpasswordだったので入れた。任意コードが実行可能な罠ではとか。どの段階のものが出たのだろうか。より面倒な所に流れるとより歯止めが効かなくなりそう…bittorrentに放流されてんのか。終わった。

[misshiki]

“NovelAIのモデルデータが、海外の掲示板「4chan」でリークされたという情報が拡散。”

[altar]

配布者の信用が怪しいモデルはリーク以前にもそこそこ公開されてたにもかかわらず、リークがあって初めてckptの脆弱性が啓蒙されるのも微妙な話だな。

[kei_1010]

dockerで実行してる俺大勝利。

[ys0000]

流石にモデルが流失したものなら利用規約がない訳で、画像の利用権がないし使う価値がない。stable diffitionは権利が利用者にあると明言してるから価値がある訳で。不正利用であれば咎められるかもしれんのよ？

[confi]

ソースはreddit案件初めて見た

[mos-tantan]

オープンソースでないので余程許せなかったか

[hom_functor]

マルウェア入ってなくても流出モデルのダウンロードは普通にアウトだが、どうせそのうちライバルのOSS AIが合法的に取り込む