AIに判断や主体性を委ねていると、自由も民主主義も滅ぶだろう - シロクマの屑籠

blog.tinect.jp 上掲リンク先で、AIと付き合う際に決して忘れてはならないことを書いた。AIが進歩したからといって判断を丸投げしてはいけない。判断の主体性や責任性はこれからも人間が引き受けなければならないし、AIが普及すればするほど、AIに問いを立てる能力、ひいてはリテラシーが求められるのは避けられない。 しかし現実には、AIに判断を丸投げしたがる人はいようし、丸投げするしかない人、丸投げするのがコスパの良いこととみる人もいるだろう。「人間はもっと無責任な動物だ」「今までのネット社会だって、リテラシーが欠如しまくっていたじゃないか」という声も聞こえてきそうだ。 もっともな指摘だ。だけど、AIの進歩は人間にますます高い能力を要求するようになり、人間側がそれについていけるかどうかに関係なく社会に定着するだろう。たくさんの人間を置いてけぼりにするようにAIが進歩し続けたら社会がどうな

[p_shirokuma]

「Aiが社会を滅ぼす」って、別に殺人マシーンとか要らないと思うんです。テクノロジーや社会の進歩についていけない人間が増え続けて、主体性や責任性がうやむやになるだけでも相当まずい。特に民主主義にとっては。

[zuiji_zuisho]

手塚治虫の考える未来を真面目に危惧してた人としては「真面目に危惧してた俺って少数派だったんだ」って衝撃を受ける現代って感じ。

[sosoz4]

AIの背後にいる管理者の存在をみんな忘れてるよね、やろうと思えば思考誘導だって出来る。SNSアルゴリズムの問題の延長線上にあると思う。

[donovantree]

正しさの根拠を他者に求めたい人にとっては「みんなが言ってる、TVが言ってた、ネットで見た」が「AIが言ってる」に変わるだけだと思うが彼らにとっては「より正しい」という事になるんだろう。めんどくさいね。

[fluoride]

細胞に主体性を求めないように、人間も主体であることをやめる日がくるのかもしれん。多分それはそれで幸せなのでは

[xorzx]

民主主義なんて、単に声が大きい人に大半は従うだけで、最初から幻想だったのでは？

[mobile_neko]

占いや人間関係で投票先を決める人と同じようにAIで投票先を決める人がいても良いと思うし、その程度では自由も民主主義も壊れないと思っている。

[gpdwin]

優秀なAIに皆管理されて…的なディストピアならまだいいんだけど、 現状のAI見た感じ個人個人のエコーチェンバーを加速させるほうに働いて、 何が正しいかが何も分からない世界になり近代社会自体成り立たなくなりそう

[by-king]

イーロンマスクの『人間にはＡＩに意味を持たせる役割がまだある』という発言はその通りで、価値判断まで任せるのは人間性を捨てる事だし、それにマスク氏の上記の発言には当然”作る側”としての含意もあるわけで。

[hogetax]

根っこの問題は「判断を丸投げしてはいけない」という事でありこれはAIは関係ない。最近まではメディアが担っていた

[chintaro3]

現状すでに責任なんていろんなところでうやむやになってるもんな。これが行きつく所まで行ったらまた戦争になるんだろう

[sleepyuzura]

そうなんだよね．結局責任を取るというか、取らされるのは人間なのよ

[modal_soul]

AIに主体性を譲ったとして、そのAIを作っている存在もAIに従っているとは限らない訳で、AIという仲介者を介した独裁制だよね

[Kukri]

なるほど。それじゃまず総理大臣からAIに置き換えよう

[BigHopeClasic]

トランプのやることなすこと全てに対して判断を放棄して今日も明日も明後日もUSA!USA!USA!を連呼しているアメリカ人多数派を見れば、すでに自由も民主主義も滅んでいて、AIはその後を追いかけて焼け野原を作るだけ

[hide_nico]

“人間の自由と、人間が判断や主体性や責任を引き受けることは常に表裏一体である。後者を放擲して前者が保障される見込みはない。”

[mymy-maim]

ジョブズが言った「コンピュータとは知性にとっての自転車、知性を拡張する道具」というマインドを思い出す。AIを使いこなす知性を持つ合わせることが理想だが、人はどこまでも怠惰になれる

[ffrog]

AIサービスが沢山あるうちは、どのAIを使うか／信じるかもバラバラだから使い手に主体が保たれると思う。全員が同じAIを使う場合、これはアカンかもね

[hecaton55]

まだまだAIの結果の責任を取るのが人間の仕事だと思っているけど、それが逆転してしまった社会というのはどのようになるのだろうか？

[ku__ra__ge]

今はまだ新しいからAI出力に広告を混ぜるノウハウやAIに広告をポイゾニングする技術が進歩してないだけで、そのうち「昔のAIは質問にズバッと回答してくれたのになあ」と言われる日が来る。

[khtokage]

「自分がどこ走ってるかよく分からずカーナビの言うこと聞いて目的地に行く人」が社会にどれぐらいの害悪を与えるか　最終的に貴族院的になっちゃいそうな気はしますね、衆愚部分をAIなりが担ってくれて

[zenkamono]

「AIで投票先を決める人がいても良いと思うし、その程度では自由も民主主義も壊れないと思っている」←アメリカはAIより先にネットの陰謀論でトランプが当選して壊れてる最中ですけどね…

[c_shiika]

市民社会は、市民一人一人が考えることがあまりにも多くなりすぎた&生活カツカツでヒマがない、ですでに半分くらい崩壊していて、投票率の低下にそれが現れていると思う。ならAIに代行させて政治参加するのもありでは

[rgfx]

というあたり、なんかGrokにリプ投げる人みてるとフジリューせんせの初期短編の「TIGHT ROPE」の世界観を思い出すんですよねー。。

[gorgeous1020]

AI以前にすでに新聞、TVに考える能力を頼ってる人が多い。今だとYouTubeで目覚めてる人たち。

[gan5843]

サイエンスフィクションの一歩目にいるような気はする。

[System]

ツールや概念を使いこなして更なる責任を自ら負う、あるいは作り出す層はいつでもあったようにも思うな。そこから漏れ出るメッセージの流れに身を任せるだけの層も、いつの時代も一定数いたように思う。

[sobbed10]

rootは人間でAIはadmin。

[tokuniimihanai]

そもそもほとんどの人は判断力を持ってないし、現行制度も民主主義もどきでしかないよね

[chinu48cm]

人間のいい加減さや不出来さを見るとAIを盲信する人が増える方がむしろ社会が良くなるまである気はするけどね。人間を特別視する必要はなかっただけなのよ

[takuzo1213]

カネや権力はエントロピーの法則の逆をいくので、AIだって誰かが意図的に操ることはできる。思考をAIにアウトソーシングしてしまうのは相当危険と思う。いずれにせよ常に主体的に考えよ、という話

[tpircs]

AIを強力な魔導書と捉えるのは無理があるように思う。人に聞いたつもりが裏にいたのはAIだった、そんなことが当たり前になり他者からの知見を利用している時点で自分もAIに汚染されているようになる。

[hardt]

社会の難しさに耐えられない人たちは、単一の優れたAIを求めるのかな。独裁者が熱狂的に支持されるのと同じかもねえ。でも俺は民主主義が人間社会の最適解だとも思えないです。滅びよう！

[qawsklp]

そんないない人を仮定して結果を推論されても.. というタイトル

[uehaj]

アメリカではもう滅んでる。道具は常に人間の賢さを拡大すると同時に愚かさも拡大してしまう。

[Saboten_flower]

AIに政治はできない。それはAI自身が答えてくれるので聞いてみると面白い。最初はAIに任せても、そんなに人間は大人しく従順な生き物ではないから、自己都合で最後は破壊しそう。人間のエゴは素晴らしい。

[nami-hey75]

かつてSF作品が数多警鐘を鳴らしてきた世界がスッと現実になってるんだよね。。進化は止められないからAI側にも多様性を持たせないといけない。開発者が切磋琢磨出来る状況が望ましいのかなぁ…結局凡人は丸投げする

[heyjoe0123]

まあ、ひろゆきやホリエモンが言ってるから正しいってわけでもないし政治家もそうだし、嫁は浮気するし今自分に意思がある以外この世に真実なんて無いのかも知れないなーと思ってる。

[niwaniwaniwauwaniwaniwaniwa]

いったい何を心配して人間は何なら使いこなせていると考えてるんだろう。人間はSNSもWEBも自由も民主主義も核兵器も包丁も使いこなしてはいない。AIには欲がないから価値判断はできない。判断をさせているのはいつも人