騙されないよ！ AI画像か否かを判断するWebサービス

騙されないよ！ AI画像か否かを判断するWebサービス2023.06.26 07:0023,261 岡本玄介 AI画像の判断はAIに任せよう。 日々進化し続け、今や本物と見分けがつかないほどリアルな画像を生成するAI。その動きをネットで見ていれば、AI生成画像は独特のマットな質感や背景をボカしたがる傾向、手指の描写がヘタクソといった特徴を知っていますが…そうでない人は、一発でダマされたっておかしくないほどのクオリティーです。 時にはネタで作られたフェイク画像が拡散されるうち、いつの間にか尾ひれがついて本物と勘違させられることもあるでしょうし、この先そういう事態が増える可能性は大いにあると思います。 AI画像を瞬時に解析そんなときに一度立ち止まって使ってみたいのが、画像がAIに作られたものなのかどうかを判定するOpticの｢AI or Not｣というサービス。 JPEGやPNGなどをドラッグ

[nise_oshou]

漫画家さんが、「早速試してみたが、手描き水彩画キャプチャしたやつがAI度のスコア一番高い判定だった、使いもんになんね」って書いてて草

[auto_chan]

いくつか類似の判定サービスが始まったが、自作の手描きイラストをテストにかけてはAI判定されるケースが多発しているので、ノイズの名残が少ないイラストには向いてないのかしら。

[mr_mayama]

精度悪かった、AI→人判定、人→AI判定があった。これを根拠に叩かれる絵師とか出てきそう。

[sds-page]

95％って結構低い確率だと思う。魔女狩りに使われかねない物だと特に。マイナンバーカードで言うと400万件くらいトラブル起きてたらもうボロクソでしょ

[puhu208n]

そもそもDiffusion系生成AIは「学習データをパクるAIと、AIかどうか判別させるAIを共進化させる」というAI訓練手法(GAN)の精度を越えた先にあるので、判別AIで判別できる根拠がない

[Sinraptor]

AIで画像を生成する時に、コレのスコアが低くなるように調整してくるだけだよなぁ。

[colonoe]

ちょっと試してみよう／Pixivのイラストで検証したところ、AI絵10中1枚が判別不可、人間絵10枚中2枚がAI、1枚が判別不可だった

[TETOS]

騙されてるよ！

[hiromo2]

AI判定系、大体ダメなイメージ。

[hetoheto]

ヒャッハァ！魔女狩りだァ！

[attyan7639]

イタチごっこになるかもだけど、とりあえず、ね！画像生成したら、ウォーターマークみたいなのを付けるようにすればよくない？とも思ってるけど、編集で無くせるみたいだからなー。#画像生成AI #AI画像 #フェイク画像

[number917]

偽陽性に溢れてるんかｗｗ

[anigoka]

こーゆービッグウェーブ乗りたいだけの泡沫サービス出てくるよなー

[kamezo]

GALAXYで撮影した月面写真を判定してみてほしい／ブコメを見るとそれどころではなかった。

[watagashi_yo]

↓その漫画家、自分では気づいていないだけで実はAIなのでは？

[osugi828]

iPhoneのカメラで撮影された色彩の強い自動補正された画像はAIによる補正の賜物でしょ？もはやそうかそうじゃないかって判断や議論すら無駄なことだと思うけど。

[itochan]

ブコメによるとそんなでもないらしい。特にFP偽陽性のほうの影響

[ET777]

手描きのものでもそれほど複雑でない構図で線画を加工してあるやつはAI判定されやすいかもしれない

[sierraromeo]

本当にその判別をする必要があるかって問題が一つ、(例えばフェイクに騙されないようにという一見妥当な目的があったとして)この手のサービスを頼っていいのかという問題が一つ。

[blueboy]

イラストは対象外だろ。写真だけが対象であるはずだ…… と思ったが、そうでもなかった。低性能 Stable Diffusion で作成した絵画　https://x.gd/F7dzb　で試したが、95％以上で正しく ＡＩ判定をしている。　高性能版は不明。

[mizukemuri]

95%の精度は疑わしい気が…昔生成した犬の顔の写真とか否判定だったんだが

[Tamemaru]

AIはノイズ画像から指定の描写を復元しているから、ノイズ画像由来の独特のパターンが残っていて、それを判定しているんだとかなんとか。