画像生成 AI によって生成されたイラストの見分け方

人間の描いたイラストか AI によって生成された画像かを判別する Human or AI に挑戦したところスコアが低くて悲しかったため、AI の癖を徹底的に分析して自動生成されたイラストを見抜く方法をまとめました。 追記: 2024 年 7 月 この記事を執筆してから 2 年ほどが経過しました。 まあ予想通り AI 技術は進展しており、生成されるイラストの品質も向上しています。いまだにこの記事には結構なアクセスがあり、内容の妥当性についてここで再度言及しておくことは価値がありそうです。 結論から言うと、この記事の内容は現在の AI においても概ね適用できると考えていいでしょう。恐らくはパラメータ数の増加に伴って AI の地力とも言える性能は執筆地点から大きく向上していますが、一方で定性的な得意・不得意の傾向については変わっていないように見えます。 なので、全体的な傾向についての記述は概ね信

[Falky]

こういった見分けができる時代があと何年続くだろうか。いや、年ですらないかもしれない？//前提としてもうひとつ、「人間が真面目に描いてる」ことが必要だよな。何も考えずに適当に描かれてたらAIと区別が付かん

[aox]

自分のを確認したらまぶたの描き方が左右で全然違いました、AIの才能があるかもしれません https://i.imgur.com/xkT95cG.jpg https://i.imgur.com/6tnphC5.jpg

[unkkk]

これはAIを手直しする為の手助けになるだろう

[by-king]

将来的には見分けるのが素人には不可能になり古美術品が複製品かオリジナルかを判断する鑑定士のような職業が現れテレ東で番組持つようになるか、見分けるAIと描くAIの際限ない争いが始まるかのどちらか

[NAPORIN]

人間とＡＩの敵対的学習おもろっ　そのうちこの特徴をクリアするモええ特化ＡＩを出してくるとおもう

[kkobayashi]

AIで8割がた描いて細部を人間が修正するみたいな使い方をすればめっちゃ効率化できるな

[arrack]

現状のAI全部にいえることだけど「細部を確定する」のが苦手なので、AIによって奪われる仕事に羅列されたものが実際は全然奪えず、全体を俯瞰する仕事の方がAIによって奪われるんだなと思う

[Sephy]

なかなかいい分析。ほとんどの絵描きは手癖、筆致やフェチ持ってるからキャラデザやシチュの傾向見れば大体分かるはず。構図やパースのつけ方も個人の癖が出やすい部分。トレパクとかもそういう違和感からバレる

[hiyori777]

例えば瞳をしっかり見ないと見分けつかないなら見分けつける意味ないし、いずれそれすら見分けがつかなくなると思う。AIと人間の違いを言語化するとそれに近い描き方の人間が「AIだろ」と言われる回数増えそうで怖い

[canadie]

音楽で言うところの「生楽器か打ち込みか」「生歌かオートチューンか」みたいな話になってきてる。そしてポップスでは人力でも機械でもどっちでもいいやん、ってなってきてる

[mohri]

おもしろい。「神は細部に宿る」という言葉があるけど、それを地で行くかんじだった

[misshiki]

“Human or AI 攻略”

[timetrain]

なるほどとわかる個所もある

[manaten]

長くて最後まで読んてないけど、人間でも特に初学者でまだ人の絵を真似てる段階だと背景理論とか理解してなさそうだよなあ

[jamg]

7問ミスった〜！手足は分かりやすい。あとはここまで絵が上手い人がこんな凡ミス？しないだろうって絵描きへの信頼で見分けられるものが多かった。あんまり上手くない絵だと判別しにくいな…って感じだった。すまん

[Librakun]

NovelAIが公式イラストから引用してきた様なキッチリ描かれたキャラの顔でもまつ毛やハイライトの数がグチャグチャだと知った、拡大しないから気づかなかった。まずは手の指の数のほうが先に解決すべき課題だろうけど

[tasukuchan]

“イラスト”

[mcksw]

レイヤー分けて出力してくれるようになったら直すのも簡単だろうな〜というか今まだ前後に被写体が散ってて遠近のある絵はAI不得意そうなんだけど、レイヤーの概念理解したらたぶん突破されるよね

[yoshi-na]

あと何ヶ月でこの判断項目の数をどれだけ減らしてくるのかが楽しみ

[GiveMeChocolate]

問題やってみたけど、ほとんど判別可能だった。というか答えの出現に偏りがあるから最初こそぎょっとしたけど、AIのゾーンがきたら案外わかりやすい。にしても進化のスピード的に油断ならないな

[myogab]

一度はやろうかとも思ったけど問題多くて途中で止めた。途中までだけど、筆致とかぼかしの範囲とか意図とかを見てたかな…。

[Pinballwiz]

輪郭がやたらぼやけてる

[crowserpent]

現在のdeep learningによるAIの一般的な弱点（論理的一貫性が苦手）が、画像生成AIにも当てはまるという話。なかなか面白かった。

[chambersan]

テストやってみた37/45だったー難しい

[number917]

こんなのすぐ乗り越えてくるだろうな、AI

[tk_musik]

このラスト1メートルみたいなところを治すのは非常に骨の折れる作業(特にAIは)なので、すぐには治らないと思う。あと「ちょっと手直し」が「ほぼ書き直し」になることもままある。構図アイデア貰えるのはでかいが。

[u-li]

“AI は線の役割に一貫性があるべきことを知らないので、なんとなく線を引きたい場所に他の線の端が近付いてきたら「お、これ使っちゃお」みたいなノリで簡単に線を繋げてきます。”

[mr_mayama]

学習の限界があるからまだまだこの問題は変わらんよ

[wideangle]

これのいちばん怖いのはそういう細部が「別にそんなのどうでも良くね」に押し流されることなんだよな……手の抜き方が人間とちょっと違うだけ、みたいなことになりそうな気がする。

[tasra]

面白かったです

[djsouchou]

今のところ手の処理が甘い様に感じるが、克服されるのも時間の問題かも

[hetoheto]

ここまで行くとAI的な絵（俗に萌え絵とかハンコ絵とか言われるが）自体に忌避反応が起きると言う動きもありそう。本来楽しみのために見るものを、疑って見ると言うのも疲れるでしょう。

[gewaa]

もっと大きな違いもある。例えばプロレス技を破綻なく描くことは今のAIに不可能。AIを漫画等に実用しようとすると根本的に描けないシチュが多い問題に気づく。細部修正で済むというのはAIを実用してない素人発言。

[daidokoro52]

なるほど

[WinterMute]

タイトルに「見分け方」、追記で「見抜くことに絞って」とあるのに「大前提」の項目に「「AI 作」か「人間作」かを判別する行為は一般にナンセンス」ってなんだ。AIが書いた文章なの？

[natu3kan]

人間の眼やカメラを模倣して被写体にピントがあって、魅せたい部分以外は書き込みや分解能を下げるみたいな描き方はAIがまだ分かってなさそうだから全体的に書き込みがしっかりしてる絵だと、まだ見抜きやすいかもね

[NikugaTabetainoyo]

ほー

[mito2]

背景あると無駄に描き込みすぎててわかりやすいよね

[ShionAmasato]

抽象的にAIと人の違いを言えば「原理や意図を理解するか否か」。/箸が破綻してる絵が分かりやすいけど、人は「食べ物をつかむため2本の棒が必要」と分かるけどAIは「棒状の物体がある」としか理解しない。線路も同様。

[maketexlsr]

自動生成結果の手動個別解析とはまた不毛な…仕事の流れでいちばん不毛なやつだと思う。