『ググって正解が出る時代は終わり』ネットで検索したら、専門家の目から見て誤りばかりのAI画像が出てきた「紙資料が大事になった」

汐音 凛🧵ヒストリカルコスチューム研究家 @shione_kageki デザインのヒントにしようとネットを漁るも、1年前はファッションプレートなどの画像が出てきたけど今は生成AIによる模造ロココばかりでもやはネットで衣服の歴史やデザインを学ぶことは不可能ですね。どんどん精巧にはなってるから見分けるのも難しいと思う pic.x.com/9SRWFFvain 2024-11-19 13:32:08 汐音 凛🧵ヒストリカルコスチューム研究家 @shione_kageki ぱぱっとググって正解が出た時代は終わったね。もうネットにあるのは嘘と現実が入り混じった世界。歴史界隈は相当危機感を持った方がいい。嘘でもなんでもネットで見たものを信じる人ばかりの世界で真実をできる限り伝えていこうとするのは相当な困難 2024-11-19 13:34:46 汐音 凛🧵歴史衣服研究家 @shione_kage

[masara092]

生成AIのせいで検索汚染が起きた場所はいままでいかがでしたか系の検索汚染が起きてなかった分野ってだけだと思う

[Goldenduck]

今はまだ嘘を嘘と見抜くことができるレベルだけどそのうち嘘が埋め尽くしていきそう

[norinorisan42]

「ググって正解が出る」という言葉が過去は成立してたと思っているならそれは危険だなと思ったり/真偽を判断する力は教養に支えられているし、複数ソースにあたるのは基本で、そもそも調べ物の初動ツールでは＞検索

[nakex1]

その一方で美術館や博物館が公式にアーカイブを公開してくれてることも増えたし，学術論文もオープンアクセスで読めるようになってきている。

[IthacaChasma]

検索汚染が、専門家ではない人にとっては分かりにくいレベルで、激しく進んでいるという話。しかも今後の悪化も容易に予見できる。難しい時代になった。

[mohno]

日本のイラスト盗用と違って欧米はフェイクの方が問題視されていて、ヨーロッパでは生成AIを区別できるようにすることが義務化される予定だけど、もう遅いかもね。/学習データが汚染されてて困ってるという話も。

[BlueSkyDetector]

美術館や博物館は所蔵品を画像にするときにC2PAで署名つけておいてほしいね。カリフォルニア州ではAI生成物にC2PAなどでAI生成物である事を証明するウォーターマーク義務づけの法律ができたけど世界的に必要なのかも。

[qouroquis]

昔から検索汚染はあったというが、量の問題も一定の閾値を超えると違う問題に変貌する。5台のサーバの管理と10台のサーバの管理の違いは単に量の問題かもしれないが、100万台のサーバの管理は全く違う問題だ。

[vesikukka]

弐瓶勉の『BLAME!』をいつも頭に思い浮かべている。私たちは汚染されていないネット端末遺伝子を求めて彷徨うのさ。／AI元年以前のメディアを物理で保存して引き篭もりたい。

[MATCH1]

だから紙の本等も大切なんだよな。

[hkanemat]

絵だけじゃなくて文章も同様じゃろ。AIによる知識の汚染が始まってる。

[mobanama]

"今は生成AIによる模造ロココばかりでもやはネットで衣服の歴史やデザインを学ぶことは不可能"こわ

[kkobayashi]

AIロココってビックリマンぽい

[naoto_moroboshi]

生成AIが汚染はマジでそうよ。英語wikipediaとかも汚染されてる。人間よりはるかに早いスピードで作れるのでチェックが間に合わない

[Shinwiki]

そんな時こそ鍵のあれ、署名技術と顕名化に価値出てくるんじゃないの。AIでもまさか署名偽造まではやらんでしょまだ。

[Lhankor_Mhy]

生成AIの物量でS/N比がノイズ寄りに振り切ってしまう、という話。

[oka_mailer]

分野によってはもうとっくにネットの嘘情報が本になったりしてるしなあ。

[kiyotune]

一枚目あんよ出てるしwww どの絵もよーく見たら手指が学習不足で妖怪みたいになっているのでまだわかる。

[kiku-chan]

SNS広告から投資を始めたら詐欺だったり、メルカリで物を売ったら詐取されたり、隙間バイトサイトから申し込んだら闇バイトだったりする世界。で、検索から見つけた弁護士に依頼したら着手金詐欺をされる

[wackunnpapa]

そもそも、何故“ググって正解が出”た、と自分が理解できたのか、っていうところを考えれば、当初から情報検索が脆弱性を抱えていたことくらいわかりそうなものですが。

[Karosu]

機械学習による自動組み合わせ画像汚染がひどすぎて、情報の信用性をなくすやつだ

[yoko-hirom]

歴史分野なんて紙しかなかった時代から素人専門家の“創作”で溢れてた。

[kurataikutu]

歴史的資料？！と思いきや江戸時代に作られたフェイクだった、みたいなのよりはまだわかりやすいかと　https://news.yahoo.co.jp/feature/1906/

[ikihaji_kun]

銃の被害が問題になってるときに包丁でも拳でも人は殺せるとか言いだすようなのが必ずいるからはてなは気持ち悪い

[p_shirokuma]

googleのなかのひとだって大変だろうな

[zyzy]

頭おかしい人たちの特徴である「量の違いが分からず1あれば全部一緒と言い出すいつものアレ」が沸いてますね。ある意味知能の判定装置ではある。

[misshiki]

“AIの絵は濃い味付けのジャンクフードみたいなものだから、見過ぎると「これは偽物、これは時代の説明が違うな」って直感も鈍って、最終的には本物が偽物に見えて来るようになる”

[Windymelt]

"ニセモノ"を作るコストの問題に帰着すると思う。紙は劇的に発信のコストを下げ、そして電気通信がさらにコストを下げたところで、AIがさらにコストを下げる。ニセモノでも儲かるならやめられない。

[NOV1975]

終わったのは検索なんだよ。データベースとして権威がある（オフィシャルサイトとか）ものは終わってないんだよな。

[mujisoshina]

画像検索の場合も基本的にはよく分からないサイトに載っている画像は信用できないと考えるべきだろう。ロココ調などは従来はわかりにくい偽画像が少ないジャンルだったのだろうけど、今や汚染が広がってしまった。

[rgfx]

まじでKindleか国の美術品アーカイブに頼るしかなくなったな…

[filmmer]

Facebook開いたらNobunagaに仕えたYasukeの写真とか出てきてamazingだのなんだの連なるコメントに驚いたけど、これから先のネットは物売りとAIにお絵描きで埋められるんだろうなぁ、と。

[nekomask]

今までも過去の偉人で検索するとほとんど美少女化したものしかでてこなかった気が

[quick_past]

まちなかの知のロングテールを担ってきた、古いスタイルの古書店を、ブックオフがいかに効率的に壊滅させたか今になってからでも、考えるといいと思う

[hate_flag]

なるほどこれがAI汚染か…

[yamadadadada2]

人形使いが現れるのもそう遠くないのかも

[honeybe]

今まで「戦艦/刀剣/英雄」で通ってきた道だ！(違 / 検索汚染は同じだけど真偽不明度がぜんぜん違うよって話

[kowyoshi]

古本の価値、特にこれまで捨てられてきた図鑑や百科事典の価値が上がってしまうな

[yamadar]

これは困るな...嘘を嘘と見抜けなくなってきてる

[deep_one]

コメントを見て。たしかに直接博物館の公開データにアクセスするべきなのかもしれん…