AIが生成した誤情報を別のAIが情報源として誤報をまき散らす悪循環がインターネットと創作を破壊している

AIの発展に伴って発生している問題のひとつに、コンテンツの信頼性があります。現在発生しているAIに伴う信頼性の問題と、その問題が今後インターネットを破壊するまで悪化していく可能性について、教育系YouTubeチャンネルのKurzgesagtがムービーにまとめています。 AI Slop Is Killing Our Channel - YouTube 現代において、インターネットトラフィックの約半分はボットであると言われています。また、AIで生成されたムービーや本など、「AIスロッブ」と呼ばれる低品質なコンテンツが世にあふれているのも問題視されています。 AIによる低品質なコンテンツとしてしばしば問題を指摘されているのがGoogleの検索結果に表示される「AIによる概要」です。AIによる概要は、高速さを重視して性能を落としたAIモデルを使用していることで、不正確な情報を表示する事があります。

[bnckmnj]

美少女イラストを大量に読み込ませるより、各国の国会図書館に保管されてる古い書籍をかたっぱしから読み込むほうが絶対先だよなあ　事実誤認を判断できる資料がオンラインにないと終わりって…。

[syou430]

AI進める前に著作権と法令を完璧にしろよ。。OpenAIが悪い。先出しで進めておきながらAnthropic頼みになってるでしょ。中国も含め、コラテラルダメージが多いんだよ

[gpdwin]

AIが嘘情報流す→ネットメディアが裏取りせず取り上げる→ソースができたのでAIやユーザーが正しい情報源だと誤認する… ネットだとまとめサイトとかであったけど、AIがやる分粗製乱造っぷりが酷い

[mellhine]

そうなるよね。「AIは使い方次第」とはいうがこれ正しい使い方か？

[maeda_a]

“AIによる低品質なコンテンツとしてしばしば問題を指摘されているのがGoogleの検索結果に表示される「AIによる概要」です”…ほんとこれ。

[misshiki]

“AIがより広まるにつれて、何が真実で何が根拠のない誤情報かを見極めるのは難しくなっていきます。Kurzgesagtは「AIがインターネットを不可逆的に破壊する可能性を秘めている」”

[sosoz4]

他人の動画を丸パクリしてるGIGAZINEがこれ言ってるの自虐かな？

[mame-tanuki]

2025年以降投稿のウェブ情報は特に取扱要注意と未来の歴史学者に言われそうw　ゴミWebという分厚い示準地層堆積〉「2025年には、1200以上のニュースサイトやウェブサイトで、AIが生成した誤情報や虚偽のエピソードを公開」

[nowww]

AI視点だと、どこの誰だかよくわからん人が流す情報は価値はないが、それを大手マスコミが取り上げて価値を付ける。

[mayumayu_nimolove]

どこのnoteだよ

[pico-banana-app]

AIが生成したゴミ情報をAIが学習してネットが崩壊するとか、もうSFの世界じゃんw