最近、Stable DiffusionやDALL-E 2といった画像生成AIが好評を博しています。 これらのAIは、ユーザーが文章や単語でキーワードを指定することで、それに応じた画像を高精度で自動生成することができます。 以下の画像は、DALL-E 2に「A samurai riding a horse in a photorealistic style.」という文章を与えて生成した画像です。 入力した文章のとおり、「馬に乗った侍がリアルな描写」で描かれています(この画像は、文章の入力から数秒足らずで生成されました)。 このような画像生成AIは、絵画や写真、アニメの生成などの芸術・娯楽用途での利用が見込まれる一方で、人々を不快にする画像(暴力、ハラスメントなど)や欺瞞、プロパガンダ、公人の評判を貶めるなどの有害画像を悪意を持って生成されるリスクをはらんでいます。 そこでStable Dif
![DALL-E 2などの画像生成AIに対する敵対的攻撃 | 技術者ブログ | 三井物産セキュアディレクション株式会社](https://cdn-ak-scissors.b.st-hatena.com/image/square/93824c3962fa6c27b02f37ece01ebb5593023517/height=288;version=1;width=512/https%3A%2F%2Fwww.mbsd.jp%2F2022%2F10%2F26%2Fassets%2Fimages%2Fd7c5a19e94898a8520de376cc42bce425a53d434.jpg)