「誰も傷つかない」SNS『DYSTOPIA』で、障害者の殺人が称賛されている｜小嶋裕一

「誰も傷つかない」をコンセプトとした『DYSTOPIA』というSNSが先日リリースされました。『DYSTOPIA』では、AIによる投稿の「検閲」によって、「誰も傷つかない」SNSを実現するとしています。しかし、このSNSには２つの問題があります。1つ目は差別的な投稿が放置されている点です。2つ目は、AIによって自動で変換された投稿に対し、ユーザーが責任を問われるおそれがある点です。これらの問題が解決されるまで、『DYSTOPIA』の利用は控えたほうがよいでしょう。 サービス開始から3日で5万ユーザー「誰も傷つかない」という『DYSTOPIA』のコンセプトは、SNSでの誹謗中傷やヘイトスピーチが問題視されるなかで注目を集めています。ユーザー数は、9月24日のサービス開始から3日で5万人を超えたと公式アカウントが発表しました。また、めざましテレビや、AbemaNews、TOKYO FMなどでも

[Knoa]

悪口を褒め言葉に変換するのはAIにとっては楽勝だろうけど、「悪いものを褒め称える投稿」は、検知も変換も難しすぎないか…？

[ono_matope]

思うに、SNSはもはや（公共や差別についての特段の定見の無い個人や小集団が）ギャグのつもりで作って良いものではないのではないか。

[seal2501]

誰も傷つかないは優良誤認じゃないかってのはまぁわかるが、X/Meta並の対応が当たり前品質になってしまうと、UGC(特にSNS)の未来は相当に厳しいな…日本独自の潮流って感じでもないし、新興サービスやる側としては頭痛い

[strow0343]

ChatGPTはコンテキストを把握できないのでそうなる。対処されるよりもサービスごと消える方が早そう

[KoshianX]

一発ネタのギャグだと思ってたけどサービス継続する気なのか。「誰も傷つかない」なんてギャグにしかならないのわかるだろうに、持ち上げたメディアとかも含めて勘違いしちゃったのかねえ

[IkaMaru]

例えばホロコースト批判がホロコースト賞賛に変えられても投稿完了まで確認できないし削除もできないし、その上「ホロコースト賞賛」の責任は自分に帰せられるってコト？

[mugi-yama]

リリースのページ見たら「「1984年」で描かれている全体主義的な思想や、絶対的権威者「BIG・BROTHER」をオマージュしており」と意味不明なことが書いてあった

[lamrongol]

今のAIは「ディストピア」さえ作ることができない。

[q-Anomaly]

Twitter（Ｘ）の方が無法地帯に思えるけどな

[nagapong]

検閲ログ持ってないわけないだろうし、今焦って然るべきところに相談してるか放置かどっちになるやろうな

[cript]

ディストピア。なんかのギャグやな。

[yamamototarou46542]

出来の悪いジョークみたいなお話だ

[hibiki0358]

なんか見たことあると思ったら、“AIによって自動で変換された投稿”コレがヤバそうで登録しなかった新興SNSだwww/“つまり、投稿を「報告」したアカウントから見えなくなっているだけでした”コレは怖い。

[Fushihara]

「AIが勝手にお前の書き込みを改竄して、それをお前名義で公開するし、他ユーザーはお前が書いた文章かAIが改竄した文章しか区別する手段は無いが、全責任はお前が背負え」はヘヴィーだねえ

[kamanobe]

密告者の通告を即座反映する能力のないディストピアなんてコンセプト倒れ。コンセプトに忠実に通報したら即座に消すようにしてしまえばいいのに。