youtubeに偽情報も含んだ高齢者向けの健康動画が生成AIを駆使して大量に作られているっぽい - 電脳塵芥

6月21日付のNHKにて「YouTubeに複数の偽情報動画「高齢者バス料金」など拡散 注意を」という記事が上がっていた。要約すれば生成AIと思われるものによって作られた「高齢者バス料金が無料になる」という動画がyoutube上で流れたものの、実際にはその様な事実は存在せずに偽情報だったという内容だ。さらに下記の様に仙台市交通局はX上に注意喚起までしていた。 https://x.com/sendaishi_kotu/status/1935932616395702399 各地自治体HPでも注意喚起が行われ、記事では国交省まで「動画の情報はデマ」とまで言ってるほどに影響の大きかったニュースといえる。この記事ではもう少しだけ深堀するが、元々のデマ動画は「高齢者の健康」というyoutubeのチャンネルにおける次の動画となる。 https://www.youtube.com/watch?v=JDsOe

[masaniisan]

こんなんこそAIで検知して片っ端からBANしてくれよ

[itarumurayama]

この問題、YouTubeが該当アカウントをBANするか、どれ位のスピード感でBANするか注目してる。前澤友作詐欺広告が未だに蔓延ってるので全くGAFAには期待はしてないが。

[Muucho]

AIイラストもそうだけど見ない事はできる、が検索やおすすめがゴミで埋もれて死ぬんだよ

[taruhachi]

Youtubeどころか、ここ数日、固定電話に小泉進次郎や小池百合子を騙る電話がかかってきてるぞ。騙される人間は幾らでもいるんだろうな。

[choro23]

AIが作ったクソ情報で溢れかえってインターネットが崩壊する、っていう前々から予測されてた世界では。

[Unite]

2chまとめと切り抜きの業者が生成AIに参入したのか？手口が同じだな。歴史あるアカウントはハックと売買。それはさておきそもそもリテラシーのない高齢者に今のSNSは見せない方が良い。高確率で陰謀論とデマに塗れる。

[srng]

スマートテレビ（AndroidTV）でYoutube見ると、サブスクと横並びのなんか大したことあるコンテンツみたいなガワになるのが地味にまずそう。子供向け以外も含めたコンテンツコントロールが必要だと思う

[supaO]

生成AIのデジタル劣化問題、ゴミがゴミを生み出す最悪の未来　はまさにこれ

[cinefuk]

老人をターゲットに「2か月前を契機として英語圏向け生成AI動画が何故か日本人向けの高齢者健康向けチャンネルに様変わりしている。生成AIなどによって言語の壁を乗り越えることが容易になり粗製乱造の動画群が現れ」

[Gl17]

ページビュー増やすにはこういうゴミが多い程プラットフォームとして利益が出る訳で、資本主義は適正な規制なしには高効率で自滅まっしぐらという実例。イーロンもXでデマ規制に反対(トロル撲滅どころかまるで逆)。

[hate_flag]

id:bzero-sugar 人力なら偽動画を作るのに半日はかかってたのが1日で10本も20本もニセ動画を大量に作って稼げるようになったのだから法規制されて当然。自転車と自動車では交通ルールが違うのは当然やろ？

[misshiki]

“生成AIと思われるものによって作られた「高齢者バス料金が無料になる」という動画がyoutube上で流れたものの、実際にはその様な事実は存在せずに偽情報だった”

[mas-higa]

AI で BAN は誤判定されたときにつらい。YouTube が「この動画は偽情報っぽいけど、それでも見る」とか警告して欲しい。

[strawberryhunter]

誰か、片っ端から通報してくれ。

[nabinno]

動画版ワードサラダ、なつかしい。何十年経っても人がやることは変わらないね。

[nilab]

「２ヶ月ほどで複数の高齢者向けの健康チャンネルが複数出来た」「「高齢者の健康」が数を稼げると目論んだのだろう」「それらのチャンネルの運営者は「高齢者の健康」の運営者と繋がっていると思われる」

[kori3110]

大量のノイズ作成と除去のいたちごっこにどれだけ電力使われるんだろう……

[sukekyo]

こういうのって嘘なんだ。こんなアホな事するひと、突然近くの川に飛び込めばいいのに。

[IGA-OS]

高齢者という傾向的な脆弱性🥺

[sc3wp06ga]

軍事、乗り物とかの動画をよく見るけど、最近、AI生成らしき嘘の解説動画がおすすめされる。自衛隊の新戦車とか、新車とか、名前や画像が嘘で実在しない嘘解説。チャンネルは複数あるようで、どれも数百再生されてる

[Midas]

これは｢悪質なデマがAIで自動生成！(騙されないで｣ではなく『日本のシティポップ(ヴェイパーウェーブの次。ありもしなかった｢過去における｣理想の未来像を描くエンタメ』いまYouTubeでシティポップはAIが創るもの

[syamatsumi]

こういうの、BANとかは気付かれて対策されてのいたちごっこになるから、一見成功してる風に見える島流し方式にならんかなーと思ってる。島流し対策もされはするだろうけど、確実に時間稼ぎにはなるでしょうしね。

[mkotatsu]

ブコメ見て、キッズコントロール同様に高齢親のネットコントロールも必要説に納得はした、しかしどうやって…免許返納とかと同じ難しさやわ / デマとか「嫌なら見るな」とか、おすすめに上がると見ないのが難しい

[hecaton55]

悪貨は良貨を駆逐する、もしくはグレシャムの法則をリアルタイムで観測しているのかもしれない。ネット空間の情報の価値がどうなるか

[suzukidesu23]

AIで検知してとあるけど、そもそもGoogleのAI検知って、かなりいい加減でハルシネーションたっぷりでもAIじゃないって判断することあるからね。SEOにおいてもGoogle自らがぶっ壊しにきていると思う部分もあるし

[takutakuma]

AI 使われてないのでも胡散臭い健康動画多いので困る。

[hayasinonakanozou]

自衛策としては、すでに登録しているチャンネル以外YouTubeの動画は見ない、かな。XではフォローしているTLしか見ていない。情報は制限されるけどやむを得ない。

[zgmf-x20a]

シンギュラリティは来ない派だけど、その前に生成AIによるウソ画像が氾濫して人類は滅亡しないか心配。

[ducky19999]

本格的電子ゴミ時代の到来

[enhanky]

高齢者＆医療は広告のクリック単価の高い分野。ごみコンテンツファーマーを排除できないプラットフォームに問題がある。

[snipesnaps]

自分らのシコ画像を規制されたら烈火の如く怒り狂う表現の自由戦士達が高らかに声を揃えてじゃんじゃん排除すべきと口走るダブスタ。

[buenoskun]

別にだまされる高齢者を蔑むのは構わんが自身も将来だまされる老人になるかもとは想定してないのだろうか？別まとめの「エアコンを使わない老人」と言いはてな民は高齢者ヘイトがひどすぎる

[nicht-sein]

まあ、想定されていた事態。てくのろじーで政治を変える言うている連中はまずこういう現実をなんとか対処してくれ

[toaruR]

google、働け(・ω・)

[mopx]

無料情報はもう無理か…新聞？NHK？…高齢者が陰謀論に毒されるよりはマシ。オールドメディアは自社のコンテンツを使って高齢者向けにAI使って動画生成しまくればいい。

[Hidemonster]

まだ過渡期。全てのプロセスが同時多発で完全に自律的に実行されるようになる。どうなることやら

[toria_ezu1]

生活上のデマと言えば、高齢者向けの健康法と並んで出てくるのが女性向けダイエット法。こちらは特に若い女性がノセられやすいのでソッチ方面に向かわないか心配

[s-supporter]

『クラウドワークスなどには高齢者向けの健康チャンネルの動画作成依頼がある』時間を持て余す高齢者の方々がダラダラと視聴してしまうだけでなく、思考力が衰えた方は偽情報に感化されてしまうのも問題なのよね。

[Harnoncourt]

高齢者はテレビでYouTubeを見てるよ〜。やばいよ〜。

[lavandin]

健康食品の宣伝ならともかくバス代0円の情報を流してなんの得があるのか…ただのミス（アジアに詳しくない海外のクリエイターが他の国の政策と間違えたとか）？拡散目的？何かの実験じゃないといいけど