AIが人間に反乱しないよう「道徳」を実装すべきか。京大の哲学者・出口康夫が本気で考えて示した結論｜FINDERS

CULTURE | 2023/09/22 AIが人間に反乱しないよう「道徳」を実装すべきか。京大の哲学者・出口康夫が本気で考えて示した結論 Photo by Shutterstock 京都大学で出口康夫氏が行った人気講義を書籍化した『AI親友論』（徳間書店）... Photo by Shutterstock 京都大学で出口康夫氏が行った人気講義を書籍化した『AI親友論』（徳間書店）。 同書はAIと人間との関係性でよく言われる「仕事が奪われる（人間が奴隷にされる）」、あるいは逆に「人間が支配できる程度の性能に抑えるべきだ」といった敵視を前提とした議論ではなく、人間とAIが「親友」として共生するための社会観・人間観をいかにして考えることができるかについて、これまでのAIやロボットにまつわる議論も参照しながら考え抜いた一冊だ。 本稿では、アイザック・アシモフの「ロボット三原則」の時代から続く「A

[mur2]

「人間の存在は道徳上悪なので粛清する」とか言い出しそう。

[anigoka]

人間同士で反乱しあってるのにどの口で「道徳」とかAIに教えられるのか

[Itti-nino3]

道徳をどう説く。

[gabill]

AIが人類を支配する世界は、AIがヒトラーになる世界では無く、くまモンが熊本県知事になる世界だと思う。

[ghostbass]

そういう可能性を持つAIが出てくるのはいつだろうなあ

[KariumNitrate]

人間てそんなに偉いの？アルティメットガンダムの方が間違いが少なさそう。

[strow0343]

道徳を実装しても大義名分をセットすることで回避出来るのは人間での運用で分かっていることなので、変に実装して話がややこしくなるより使う人間が全責任を負ってもらった方がマシ

[dollarss]

陽電子頭脳にはいかなる場合でも識別信号を発する素子を埋め込もう！（カルヴィン感

[dekaino]

AIに自分の考えでカネを運用する権限つまりいわゆる経済力を与えたとしたら、AI誕生以前にすでにカネの奴隷だった人類はまちがいなくAIに支配されるだろうね。道徳の問題ではない。カネを自由に使う権限の問題。

[trashcan]

良心回路が必要。正義と悪との青と赤〜。

[deep_one]

道具であるものに「当為性」とやらを求めても仕方がないと思っている。

[Kukri]

道徳みたいな曖昧なこと仕込んだら、AIが人間の指示を厳密に守った結果が反乱扱いなのはお約束

[cham_a]

つかchatGPTはやたらと「道徳」には厳しいのでは／法的にはグレーでも倫理的にはアウトなようなケースを話題に出して質問すると、まずお説教してきて質問に答えてくれなかったりするぞ

[cartman0]

まず人間の道徳やな

[sds-page]

西側の道徳だと「プーチンは今すぐ排除すべき極悪人」だけどそう考えてない国も結構あるのが現代道徳の難しい所

[udukishin]

ロボット三原則だな

[slkby]

道徳なんか実装したら道徳的な観点から人間滅ぼした方が良いって結論になるよ

[solidstatesociety]

テスラに道徳持たせたら、乗員窓から放り出されそう

[ookitasaburou]

“『AI親友論』（徳間書店）。”

[gcyn]

『パラヒューマン』かー。

[n-styles]

デトロイト ビカム ヒューマンというゲームがまさにこの辺りをテーマにした作品。

[nakag0711]

AI自身の損得というものがないから、人間の倫理や道徳とは似て非なるものになる

[trace22]

早々と結論など求めずもっと色々な考え方を集め議論を深めてほしい。

[ChieOsanai]

アホくさ。AI よりプーチンの方がよっぽど怖いわ。

[wwolf]

人類社会が再度の発展を遂げるには「道徳的に許された奴隷」の存在が必要不可欠。そしてそれはAIやロボットとして実装される。で、あるなら奴隷に対する安全装置は必ず必要であり、それはもっと具体的な枷として実現

[hokkey]

“「マイルドな悪」への関与については話は別です。人間に対しては、それを苦笑しつつも許すが、AIやロボットに対してはそれを断じて認めない。そういった非対称的で差別的な態度が見受けられるとすれば、それは問題

[sillanda]

"e-ひと"で「Rダニールかよ」と思ってしまって続きが読めなかった

[death6coin]

AIに「人間は保護すべきか弱い劣った動物」だと認識させればいいって、星野之宣がオチ改変したSF（「未来の二つの顔」だった）を読めば分かる

[mventura]

むしろ人類を滅ぼす意思に目覚めそう（すでに書かれてはいるけど）

[xufeiknm]

モラル？一つの中国とか、共産党の指導とか？

[cl-gaku]

AIを通して人間について考えなければならないということか。今同胞にすらできていないことを新たな仲間にすることは多分できない

[daij1n]

ロボット3原則前提で問題なくなると思う。つまりAIにも宗教があるのだ。

[atsushifx]

「ロボット3原則」はすでに出てた。あれをいかに実現するかという実験ができるってことかな

[mamezou_plus2]

古典SFなネタだなぁ。道徳の定義や必然性。形骸化した道徳の墨守。プログラミングなような人間と独創的な道徳をを導き出すAI。人が生物としての異常種であること。他の動物にも道徳がある事。

[gameloser]

個人的には『ネガティヴ功利主義』がベースになると思ってる。多数の幸福を目指す功利主義ではなく多数の不幸を取り除く負の功利主義。すると、安楽死導入・ベーシックインカム・出生の免許制などが予想される。