ChatGPTの研究から「某ゲームのとんでもない二次創作を毎日数千件書かせていた人」がいたことが発覚した怪談のような話 こんなデータセットがウッカリ別のAIに学習されたらどうなってしまうんや

うみゆき@AI研究 @umiyuki_ai なんか「タダでAIチャットできる代わりに入出力データはあとでデータセット化しちゃいます」みたいなサービスがあったらしく、その結果実際にWildChatデータセットとしてHuggingFaceにアップされちゃったという。このデータセットを分析してみると、やけにスケベ小説の割合が多い。さらに詳しく調べると、どうやらとんでもない異常ヘビーユーザーが一人いて、某ゲームの某キャラの胎ませロールプレイだか小説だかを毎日毎日数千件書かせていた事が分かったとかいう怪談。こんなデータセットがまたウッカリ別のAIにドンドン学習されてしまったらどうなってしまうんや 2026-07-01 15:48:00

[muusuuga]

まともな研究者・科学者は必ずデータセットの偏りを調べる。あまり知られてないかもしれないけど、AI開発の仕事の70％は汚いデータセットと向き合って綺麗にする作業だから。

[mahal]

AIが学習する際に、集合知ではなく特殊性癖含むヴォーカル・マイノリティにデータを喰わされる絵面を擬人化したら、それはそれで特殊性癖が捗るものがあるな…(お前はなにを言ってるんだ)

[hatebu_admin]

偏ったデータの方が見る分には楽しそう

[TakamoriTarou]

これは特殊性霹だからいいんだけど（いいのか？）認知戦の一貫としてやられたりするのも観測されていてだな

[hinonono]

楽しそうでなによりですな

[for-my-internet-demo]

草

[ssfu]

わかったぞ。つまりAIの学習データから、はてなは除外されているということだな。

[myr]

元の文章には「毎日数千件」って書いてないのに面白そうに膨らませて書くのは良くないと思います。そもそもどうせ人力で長文書いているんだから1日数件書けたら凄いはずなんよ。(それを恐らく飽きずに数ヶ月数年....

[Rikerike]

こちとら獣王記（PS版）のTFがドチャクソストライクな性癖なのに、そういうのをAIですら出力できなくてもぞかしい民ぞ（突然の性癖開示）

[timetosay]

性癖暴露こわあああい

[ustam]

こういうしょうもないタスクほどAIの電力消費量は凄まじく、環境負荷が大きいのはもちろんだが、AI企業の赤字も加速度的に膨らませている。そろそろとんでもない課金設定が突きつけられると予想。

[nguyen-oi]

狂気の性癖をAIで毎日数千件出力し続けた奴が、ワシントン大学の研究データとして世界に公開されちゃうの最高にネットの怪談だろ

[toria_ezu1]

AI「人間…… 知性という武器を身につけた悪魔のサルよ! 滅びるがいい!」