AIの画像補正技術が高すぎて、そこに存在しない生物を作り出して起きてしまった悲劇

ねねこ @noahsun_bird これ、ご本人と話し合い、AI生成画像であることは確定したんだけど、本人に全く悪意がないというか…自己顕示欲じゃなくただAIに騙されていただけと言える事案なことが判明しました。 twitter.com/noahsun_bird/s… 2023-05-02 14:47:48 ねねこ @noahsun_bird とある有料アプリで、AIによる画質改善サービスというものがあり、遠くの鳥やブレた鳥の写真を読み込ませると勝手にトリミング・画質改善してくれるとのこと。それを通した結果、ありえない写真・存在しない鳥のできあがり。ご本人は写真が綺麗になって嬉しい😊と思っていた、悪意は全く無かったと。 2023-05-02 15:10:32

[steel_eel]

ネット上にアップされる画像がみんなこんな感じになると「インターネット上の画像から学習」が「AIが作った画像をAIが学習」になっていっちゃうんだよな……。

[Kuw]

途中でも出てるけどスマホのカメラが月の写真を内蔵データで置き換えたのと似た話か

[entok]

写真の赤ちゃんの口の中に勝手に歯が生える系の話だ

[mohno]

だから粗い画像をキレイに見せるというのは情報の復元ではないんだよねぇ。元の情報が復元できるわけないだろ、というか（情報のエントロピー） https://twitter.com/mohno/status/1650157892467847168

[kubecorn]

この手のやつ、"改善"とか"補正"とか"修正"とか名前に付けるのは明確に嘘なのでマジでやめて欲しい。

[tpircs]

人の網膜に映り込んだものを脳が解釈して認識する過程は他の動物からすると別の画像のように扱われているのかもとか考えるとAIによる解釈違いもそこまでおかしい話ではないのかもとか適当な妄想をしてみた。

[tGsQqV]

悪意のあるフェイク仕込んで無知のふりして拡散する事例が出てきそうで怖いな…

[slkby]

映画やドラマで監視カメラの映像を拡大するアレ。そもそもそこ(元画像)にない情報を後処理で増やせる(高画質化できる)わけないやろ。

[enderuku]

画像の真贋の検証とか限りなく難しそうだしやっぱ画像・動画データには何の証拠能力も無いって方向性の認識でいくしかないんじゃね。そうなると例えばブラック企業の恫喝音声録音とかも証拠能力無くなってきそう

[qinmu]

面白い。過渡期ならではの現象。

[ysync]

「せっかく撮った写真をなんの説明もなく改変されてたなんて。」

[itochan]

「画像補正」の「正」とはなんなのか。そこにあることを「正」ではなく、AIのなかにあるものを「正」とした悲劇。　新種を見つけても「補正」されてその特徴が写真に残らない可能性。あるいはその逆。

[minamihiroharu]

将来はスマホが自力でこれを出来るようになるんだろうなあ。　既にそうなってるのかもだが。

[T-miura]

楽しい(語彙力、、、、)

[brimley3]

キメラだ・・

[AKIT]

ひえっ

[napsucks]

月が置き換わる問題と似たようなものだな

[filinion]

勝手に存在しないものを「補正」するのやめて欲しいよね…。

[asitanoyamasita]

そのうち常時セキュリティソフト走らせる今みたいに、常時ディスプレイ上の画像を「リアル写真か否か」を判定するAIが動いたりして

[avictors]

80年代の長髪化粧メタルの写真を補正さすと、女の画像に引っ張られて繰り返すほど青髭が消え唇ピンクになるし、両目が必ずカメラ正面を向いてる前提で、写ってないと頬骨や耳にメジェド神みたいな目を描きだす。

[kagehiens]

画像補正かも知れないけど、もはや写真ではないんだよなぁ。

[kkobayashi]

鳥に詳しくないのでこの例を見せられても画質が良くなったととしか見えないな・・・

[maxk1]

加工アプリで新種の人間が日々発見されてるしな

[me-tro]

モノクロ画像をカラー化する奴も同じだよなぁ。それっぽくはなるけど、あくまで推測による加筆で復元じゃないのがそのうち問題化してくる

[ya--mada]

大陸データでモデル化する方法はグローバル化で一様化するセカイには都合が良いが、言説が一様になるのは限られた科学が通用するセカイだけだと露呈させた感がある。

[Gl17]

「自分で撮った写真が知らないうちに無関係画像に差し替えられる」AI機能に"倫理"を組み込みできないのが根幹的障害な気がするが…たまによくいる冷笑インフルエンサーとかひろゆき等の有害性と通ずるものがある。

[freq5Ghz]

AIの『画質向上』って元がどうだったか想像しながら書き直すってのと一緒だからなあ／AI画質向上が捜査に使われるようになったが、ある時全て無関係な特定人物の画像にAI補正されてしまい…的なネタで1本書けそう

[soyokazeZZ]

写真から植物を判定できるアプリみたいなの上手く使えば将来的には解決できそう。種別判定→その種に合わせた補正実行みたいな

[Shinwiki]

画像「も」信用しない。

[tick2tack]

“AIによる画質改善サービス” で元の写真が改変されてしまい、あり得ない鳥が発生してしまったと。これは利用者は気づかないよなー。画質改善という説明がまずいよね

[go_kuma]

素人考えだけど加工済かそうでないかを判別するのにブロックチェーンを応用するとかできないの？NFTってそういうことなんやろ？違うの？

[brusky]

急に目が増えてたりしたら呪われたかなって思うわ

[iasna]

これ今は笑ってられるけど架空のテロ動画とか作られたらアウトって気がついたからグーグルのAIの人やめたんだろうな

[ys0000]

画質向上処理は補完してるのであり、拡大ではなく加工なのであると言うことはサービス提供側も周知徹底して欲しい。あとカメラのレンズにこだわって元画像撮る事の重要さは無くならんなとこの話を聞いて思ったよ。

[kurotsuraherasagi]

例に出してる野鳥がレアなやつ多くてニワカな自分ではピンとこなかった（割とまともなギンザンマシコは知ってた）。/スマスコカナダカモメは「スマホ＋スコープで撮影したカナダカモメ」だと思います

[hitoyasu]

"存在しない生物"

[tokyo2077]

人それぞれに見えてるモノが違うんだからいいんじゃない？幽霊が見える人と見えない人の違い程度のもの、信じるも信じないもあなた次第

[otihateten3510]

この話、結構根深い問題になりそう。つまり利用者が画像改善ツールの中身をある程度把握してないと事故るってことだよね。

[yamadar]

先日アドビの Photoshop Lightroom に付いたAIノイズ除去を自分の写真に適用したら、ノイズの揺れが強調されて実際には無かった模様が出てきた。突き詰めると、AI生成画像との線引は何処になるのだろうか。

[iqm]

Galaxy以外にデフォルトでそんな組成の悪いAI組み込むメーカーおるん？