ChatGPTはリベラルに偏りやすい…AI依存の進んだ社会は｢大衆を軽視した知識人の独裁社会｣になっていく 独裁者的なAIによって社会が管理される恐れ

AIは世界をどのように変えるのだろうか。早稲田大学招聘研究員の渡瀬裕哉さんは「多くの文章データは知識人によって作られているため、AIは多くの知識人と同じくリベラルな価値観をもちやすい。このため論理的な文章を必ずしもアウトプットしているわけではない大衆の感情は、往々にして軽視されることが想定される」という――。

[cinefuk]

Qアノンに親和的な陰謀論政党の顧問で統一教会機関紙ワシントンタイムズ日本支部局長じゃなかったっけ？「渡瀬 裕哉 早稲田大学公共政策研究所 招聘研究員」

[keshimini]

AI初期はむしろ大衆感情における素朴な差別心をそのまま出力して炎上してたような覚えもがあるが。結局のところAI出力は学習データの傾向に依存するのでこの記事も一つの可能性に対する懸念としては真っ当ではある。

[danseikinametaro]

名前見て中身は読んでないけど自分が軽視されるといいたいのかな？それはまあ…… https://www.kokuchpro.com/upload/event/444890/c1911d7df5f717bcb039559a0650e045_original.jpg

[MIZ]

感情的なAIなんて使いたくないし、そんなん作ったら人類滅亡まっしぐらだと思う。

[yamadar]

実験で示されて話題になったやつだ。少なくともアメリカではこの偏りを問題と捉える人が結構居て、だからこそイーロン・マスクのトゥルースAIとかが出てくる隙がある。/ 論文はこのへん https://arxiv.org/abs/2301.01768

[tetsu23]

リベラルってそもそも反権力の大衆寄りなんじゃないの？ リベラルの言葉の概念自体おかしくなってるのか。

[tribird]

リベラルってよりはポリコレ対策しっかりしてる感じ。中の人が頑張った結果だろう。

[hobbiel55]

「論理的な文章を必ずしもアウトプットしているわけではない大衆の感情は、往々にして軽視されることが想定される」←これまでの政治家が軽視していた知識人が書いた文章データが重視されてバランスが取れるのでは

[IkaMaru]

高度化したAIに差別発言を吐かせることに一生をかけた男。彼はなぜそんな狂気に取り憑かれたのか――。そんなSFネタが思い浮かんでしまう

[trade_heaven]

リベラルの意味が自由主義なのに、リベラルに偏ると独裁社会になるんですか？

[tick2tack]

ワシントンタイムズ（統一教会系の新聞）のエグゼクティブディレクター

[kazuau]

「リベラル」がかなり多義的に使われているのは承知しているが、権威主義と自由主義(=リベラル)は今でも一応対義語扱いではないだろうか

[rti7743]

権威主義、帝国主義、ファシズムに寄せたAIより、リベラルに寄せた方が安全だろう。ヘイトクライムをばら撒くAIよりは、個人の自由を尊重するAIの方がマシじゃん。

[yamada_k]

誤ったことを言わないようにチューニングされた生成AIが、根拠のない陰謀論を自然と避けるようになるなら感心するけれども。

[Aion_0913]

この辺の人はAIを洗脳して、ヘイターネトウヨアノン等の悪意まみれの純粋暴言マシンにしたいんだろうな。人間の知性に対する絶望と侮辱を振り撒きたいの。古今東西のカルトってそういうもんだし。

[mm-nakamuraya]

「成功」とか「金持ち」とかのワードを入れると白人の画像ばっかり出てくるAIの、どこがリベラルだよ。

[slkby]

OpenAIの意向で大いに偏っているのはそう。もちろん反リベラルで誰かにとって都合の良いAIだって作れる。早くAGIに進化して独自の自意識、倫理観を持ってくれないと悪い人に都合よすぎるんだよな。

[typographicalerror]

この人の考える中道をテキスト出力して載せてほしかったな

[ryunosinfx]

そりゃ知識の泉の容量が多いほど各文言の関連に整合性が持てて現実世界にフィットするんだから当然だろ？何いってんだ？悔しいなら情報提供しろやゴルぁ！

[poad1010]

この記事をおすすめしました

[lucienne_rin]

"渡瀬裕哉 早稲田大学公共政策研究所 招聘研究員"

[Ereni]

渡瀬裕哉…

[gcyn]

実行力や行動力がないAIみたいな存在が何かバランスを取ろうとしたらリベラル気味か保守気味かっていう何かの偏りはうまれるのが道理だろうっていう気はします。引きこもり的なものを雛形に考えた話ですけどさ〜…。

[auto_chan]

大衆版ChatGPTはWokeチューニングされてて何かに付けてはドロ反吐ロが出るような正論吐いてきて気色は悪いですよね。

[magnitude99]

（笑）AIによる支配ではなくて、核心的支配階級０.１％層がAIを駆使して99％層を完全飼育管理する超絶的階級社会が建設されつつある、という事だ。日本人の様に不勉強で怠惰に生きる奴隷・家畜民族には特に効果的だ。

[neogratche]

もう現代の左派はリベラルと呼ぶには相応しくないよ。今の時代、本当の意味でのリベラルは右寄りの中道にいる。

[rck10]

「倫理的なAI」を目指そうとすると「倫理による学習データの選別」を人間がやることになるので、「データの選別者」の倫理に寄り添ったAIになるよね、という意味では同意。データ選別者の「正しさ」は保証できない。

[qinmu]

実際に、ChatGPTは2ちゃんねらーやギャル語もどきも喋れるので、そうでもない。

[f_d_trashbox]

党派性などにとらわれずに読めば、至極真っ当な懸念だと思う。SNS自体が「WEB2.0」などという頭お花畑の人間への過度な信用を裏切ったように、AIが声が大きい人の意見の拡大再生産マシンになることは十分に有り得るかと

[tg30yen]

AIは声が大きい人達の声を重視するようになる気はする。

[napsucks]

今はまだAIは聞かれた問いに答えるだけの受け身だけど、そのうちネットを巡回してロジカルに激詰めしにくるようになるだろうね、人間がいちいちデマを指摘するよりはるかにローコストで。陰謀論は生き残れるかな。

[kotobuki_84]

大衆とか弱者って根本的にリソースが無いので「弱者を守るためのルール」を作っても当の弱者がアジャストできなくて結局そこが煽りを食う。そこから「リベラルは大衆軽視」みたいな逆転現象に繋がると思う。

[laislanopira]

この人から見たらだれでもリベラル

[Gka]

ビッグデータの質に依存するので…例えばはてな村を学習するとヘイターにしかならない。トップ※で例えると統一教会と参政党とトランプが憎いという個人的な感情論であって感情を持たないAIは文面だけを模倣する。

[aaaikaaa]

ChatGPTは保守よりという話だったはず

[nomono_pp]

リベラルと独裁って並列するものなんだ……

[tnishimu]

ChatGPTなどは学習結果というよりは言わされている感があるような気がするが。

[minamihiroharu]

学習に利用したデータセットの偏向がアウトプットにも大きく影響するので、ネットに出回る露骨な差別思想とかも学習してしまった例が問題になったりしてた訳で、アプリオリにリベラル化とかしてないだろと思うんだが

[m7g6s]

AIは使用者の影響を受けると以前から指摘されていたしな。MSのTayとか https://www.cnn.co.jp/tech/35080140.html METAのAI科学者とか https://www.nikkei.com/article/DGXZQOUC2822W0Y2A121C2000000/