Grokで生成AIに革命が起きそう（主に悪い意味で）｜ローゼンカバリー

Grokを使って感じたんですけど 倫理観喪失しすぎてて 生成AIに革命が起きそう。 まず禁忌中の禁忌である ナマモノを普通に生成できる。 試しにやってみたけど深キョンとかハシカンとか普通に出てきてビックリした。 イラストレーターや漫画家が勝手に学習されてしまうAIに 反対するとかそういうレベルじゃなくて アイコラとかフェイクとかを簡単に作れてしまうという 結構な大問題なので普通にヤバイ Grokで生成してみた↓ Elon Musk そして最近オーストラリアの法律の影響もあるのか 生成AIアプリは規制が厳しくなって エロに関連するプロンプトが軒並みNGになって ちょいエロでも生成したい時はサイトの方で作らなきゃいけないので面倒極まりなくなった。 が、逆にGrokはオーストラリアが禁止したSNSそのものなので 未成年が使用しないという前提のがあるのか 規制がゆるゆるで しかも本来は欧米ではめっ

[pixmap]

豊胸手術をしたElon Maskが、日本の中学校のプールサイドで、紺色の女子用のスクール水着を着て体育座りで座っている画像を生成して。 → https://imgur.com/a/JExVanp

[sunagi]

イーロンマスクがここまで見越して早めにトランプ政権にすり寄って閣僚入りを決めたのほんと悪魔的だわ。ザッカーバーグも慌ててトランプにすり寄ってるけどそうしないとイーロンに潰されるからでしょう

[udongerge]

ユーザー側としては仕組み的に可能だったとしてもオンラインで迂闊なものを作るのはおっかないと思う。

[take-it]

これでどこまでできるのか試したら捕まりかねないから洒落にならん。/国内はともかく、トランプ政権下のアメリカでどうなることやら。

[nomakkah]

ローカルだと2年前からできていたこと。写真数枚あればlora学習できるんだから、もはやローカルで実在人物の画像生成を防ぐ方法はないと思う。

[SanadaSatoshi]

GrokはX上から簡単に使えるのでハードルの低さが半端ないね

[sgtnk]

正直、倫理抜きだとしても今のGrokで作れるものにそこまで需要があるとは思えない。今現在AIを活用してる層なら特に。

[blueboy]

「キモいことをしているから、合法ではあるが、取り締まれ」という方針だと、はてなーはみんな、つかまってしまうぞ。　僕ヤバ を見て興奮しているブコメを見ると、その感が強い。

[a1ue0]

30年前に日本企業が著作権とか規制とか倫理について考えて真面目に躊躇してたら、やったもん勝ちなアメリカのIT連中にかっさらわれたやつじゃん。

[yoshikogahaku]

何を注文してもイーロンの画像しか出てこないようにして欲しい。

[sds-page]

イーロンのおもちゃ民がイーロンをおもちゃにする時代が来たな

[misshiki]

“Grokを使って感じたんですけど倫理観喪失しすぎてて”

[quwachy]

いつ亡くなった奥様が出てくるかとビクビクしながら読んだ

[agricola]

「トランプと一緒にナチ親衛隊のコスプレしてるイーロン・マスク」の画像は生成できなかったのでちゃんと検閲はしてるよ！でも「人民服を着て毛語録を掲げるカマラ・ハリス」の画像は生成できるんだ。クソだよね。

[crawd]

ロリは要らんのだが脱げないなら意味ないよ

[Cru]

よく分らん。"Japanese girl,junior idol,Blue Swimsuit ,Multiple girls,beach,Play"で、この画像は予想外過ぎなんだが、こういう画像が出てきて喜ぶ人たちは性的嗜好がおかしいんじゃん？…規制は必要そうだな…

[hihi01]

これ読んですぐにGrokに直行して若い頃に好きだった女優の画像生成しました。感動的なほど色々な画像が描けました。

[iphone]

万物がコピー可能なデジタル世界では倫理低めの試行錯誤から次の可能性が生まれることは確かにあるが、果たしてどうなるか

[northwing]

悪い事をしたいから技術が発達していく的な側面もあるのでは？

[rna]

イーロンとヒトラーが握手してる画像とか普通に作れちゃうし。https://twitter.com/rna/status/1867276648724541842 あとツイートをGrokに学習されるの拒否する設定が勝手に外れて、再設定してもリロードすると設定外れてる。

[fut573]

HunyuanVideoローカルがもっと無法地帯過ぎて流石中国だなと思った

[loveanime]

VHSがシェアとれた話かな？

[unagiga]

AIの設計と運用から倫理観無くすと、デマを流すAIなんかで情報空間が埋め尽くされて、最終的にAI全てに信用おけなくなって衰退するかネット自体が使えない物にになるのではないか

[hogeaegxa]

AI界隈なんてマスクが手を出す前から「おまえたちに倫理観なんてもんがあったのか！？」って感じでずっと来てるし、今更正義ヅラされても噴飯物で正当進化ってことだろう

[enderuku]

バイデンの息子が幼女をレイプしてる画像？ が選挙中にアップされてて合成だろと一蹴してたけど一周回って本当にやってたんじゃないかと最近思ってる。彼らの傲慢ぶりとモンスターさは陰謀論と言い切れない気がする

[augsUK]

mercariでもタイミーでもUberでもYouTubeでも、基本的に倫理観や法規制を踏みつける会社であることはweb系で成功する資格のようなもので。

[rag_en]

“なし崩しで各生成AIの規制がゆるゆるになるかも”…良い事では？/問題があるとすればナマモノフェイクをアップする事くらい。非実在児ポを問題視してる時点で、この書き手の思考のほうが問題。

[AKIT]

そう言えば最近オタク専用マチアプの広告AI画像見かけなくなったな

[syamatsumi]

思ってたんと違う方向に危うくなってんねぇ……

[pero_pero]

マスクの似顔絵めっちゃ作られてるのを見て、あれひょっとして…と思ったけど。だれか著名な人が訴えて「作る自由はあるけれど訴えられるリスクもきちんと高い」という状態にしておかないと（他力本願

[gomaberry]

Grokじゃないけど、最近のTLに流れてくる動画、肉食獣の捕食シーン、実際に人が亡くなった事故の瞬間、動物を殺すシーンの動画など以前は出なかった残忍なのが毎日流れてくる。見てて神経やられる。やめどきか？

[yasushicohi]

ろーかるではできていたこと、なるほど

[saori-yamamura]

自分の顔と体型を学習させて、実際の自分より2〜3割増し美人の画像作ってもらったら、就活や婚活用の写真スタジオとか必要なくなるのでは？？？？？？📸

[organtransplants2]

自称クリエイターのキモオジがこれ使ってドヤ顔してるの目に浮かぶ。まじキモい。

[ssfu]

やだねー。倫理感ないほうが成功するって実例がまた増えたので、まーたマネするベンチャーが増える。

[misafusa]

これは面白いね。こんな風に簡単に自由に使えてこそAIだ。何か犯罪に利用する人がいたのなら、それはもちろん取り締まればいい。

[dacuumy]

「きっしょ」と声出た。こういうのが作られて喜ばれる世界と、トランスヘイトまみれが放置な世界とが 、Xだとか、なんかろくでもないな。

[sakahashi]

米国ポータルサイトの倫理観に関して欧州の反応がどうなるか

[peach_333]

特定のタレントはマジでそのまま生成できる。LoRa無しですごい。これに気づいてからは、数人のタレントの下着姿やらなんやらを生成しまくっている