本記事は、画像生成AI Advent Calendar 2022 15日目を埋める記事です。 はじめに 画像生成AIは、学習した画像をコラージュした画像を出力しているのではないか、という議論があります。多くのモデルは勝手に収集した画像で学習(訓練)されているため、そのようなコラ画像が生成されていたら大問題です。 上の図を見てください。この図は、今月投稿された論文 [1] Diffusion Art or Digital Forgery? Investigating Data Replication in Diffusion Models [Gowthami Somepalli+, arXiv 2022] の図です。上段がStable Diffusionの生成画像、下段が訓練データのサブセット(LAION Aesthetics v2 6+)中で一番似た画像です。生成画像の一部またはほぼ全部が
![画像生成したらコラージュだった件](https://cdn-ak-scissors.b.st-hatena.com/image/square/8b452e83182d3c3cd10432becbaf2397881480cf/height=288;version=1;width=512/https%3A%2F%2Fres.cloudinary.com%2Fzenn%2Fimage%2Fupload%2Fs--tLEjoPNa--%2Fc_fit%252Cg_north_west%252Cl_text%3Anotosansjp-medium.otf_55%3A%2525E7%252594%2525BB%2525E5%252583%25258F%2525E7%252594%25259F%2525E6%252588%252590%2525E3%252581%252597%2525E3%252581%25259F%2525E3%252582%252589%2525E3%252582%2525B3%2525E3%252583%2525A9%2525E3%252583%2525BC%2525E3%252582%2525B8%2525E3%252583%2525A5%2525E3%252581%2525A0%2525E3%252581%2525A3%2525E3%252581%25259F%2525E4%2525BB%2525B6%252Cw_1010%252Cx_90%252Cy_100%2Fg_south_west%252Cl_text%3Anotosansjp-medium.otf_37%3AYosuke%252520Shinya%252Cx_203%252Cy_121%2Fg_south_west%252Ch_90%252Cl_fetch%3AaHR0cHM6Ly9zdG9yYWdlLmdvb2dsZWFwaXMuY29tL3plbm4tdXNlci11cGxvYWQvYXZhdGFyL2E0OGEzMmZjOWEuanBlZw%3D%3D%252Cr_max%252Cw_90%252Cx_87%252Cy_95%2Fv1627283836%2Fdefault%2Fog-base-w1200-v2.png)