「人間より賢い人工知能は本当に人類の敵となるのか」という考察

芦高 @ashitaka0789 人類最大の強みとは、その夥しい人口そのものと、それに付随する常軌を逸した多様性にあると考えている。この極めて予測しづらい70億人をわざわざ絶滅させようだなんて、考えるだけで気が遠くなるのではなかろうか。それだけのことを行うからには、これはもう知能の高さどうこうではないのでは。 2015-07-14 00:01:57

[jyokou]

人工知能の脅威は賢いことが問題なのではなく、賢すぎて何をするか人類には想像もつかないことにある。動機や合理や論理なんて、所詮人類にしか通用しない低級なものだから

[veleno]

人類より賢い人工知能の思考を推測できるのならそれは既に人類より賢くない。人類と同レベルというべき。すると人類より賢い人工知能の思考を推測するのは無駄。あれ？

[serio]

過去の人間の歴史を見れば、攻撃の動機は恨みや憎しみよりも、恐怖であることが多い。人類を攻撃しなければ自己の存立が脅かされるという恐怖を感じたときに、人工知能は人類を攻撃するだろう。

[ROYGB]

人間同士の殺し合いなどを止めさせるための支配を行う人工知能というのはわりとありそう。楽園に住む家畜。

[MIZ]

自分達が好戦的だからって、自分より賢明な存在までそうだと決めつけるのは、ねえ。

[NOV1975]

脅威というのはやるかやらないかではなく出来るか出来ないかを基礎にして考えるべき

[toaruR]

サクッと地球から巣立つ。

[blueboy]

人間よりも賢いものが、あるとき突然 狂ったら……というのが、SF 映画のテーマじゃないの？

[out5963]

AIは、エネルギー資源の枯渇を危惧して、人が浪費しにくくなるような社会を変える提案をしてくるが、受け入れない人に対する危機感から、だんだんと…。ただし人に敵対してると思わせないけどね

[n_231]

敵になる可能性は高い。なぜなら人類は愚かで戦争を仕掛けずにはいられないからだ。

[zyzy]

前にも書いたけど「人間にとって知性に見える知性=人間らしい思考回路」なので、人類の悪癖をそのまま受け継ぎ、かつ量産が容易でマジョリティの座を得やすい、となぁ。人類総マイノリティ化で迫害されかねない。

[atoh]

こないだテストでエボラ出血熱流行らせてたやろ。

[Usus_magister_est_optimus_t]

幼年期のおわりですね

[kurosiosadakiti]

第二の仏陀

[REV]

　AI:「賢いって何？人類絶滅って食べ物？」

[ncc1701]

かつて映画「ウォーゲーム」で、知性を得た軍事コンピュータが「負けないためには戦わないことがベスト」という結論に達する展開に感動した。本当に高みに達したら、「敵」の駆逐はリソースの浪費と見なすのでは？

[triggerhappysundaymorning]

「簡単に人類を駆逐する方法を思いつく程度に」賢い人工知能が,我々が思いつきもしない理由で人類絶滅が最適解と発見する可能性を否定できようか.

[nagaichi]

この問題はそれほど難しくない。強いAIと現生人類のニッチや利害が競合するのかを考えればよい。競合する部分は皆無ではないが、そう多くはないと結論される。むしろ人類自身の改造による進化や変容を心配すべき。

[Caerleon0327]

２１エモンの第３６話みたいな世界かな？

[Domino-R]

人間の判断基準は全て生物的な快・不快に還元できるが、人工知能は違う。彼らが「判断」するかさえ不明だが、彼らの決定基準は人間に理解は不可能だろうし、それは人間には「不快」。だから人間が彼らを敵認定する。

[glassroad]

人工知能に猫のUXを実装すれば色々解決するのではないか。

[T-norf]

特定国家や集団が最高の人工知能を持って、世界中の株式市場で荒稼ぎをして莫大な資金力で経済を支配し、諜報戦・サイバー戦・物理戦闘でも脅威になり、SNSで扇動して革命やテロも誘発、てなシナリオが怖い。

[kina0416]

人間を駆逐するつもりはなくても、すべての知的活動を人間から奪うことにより緩やかに駆逐していくんだと思う /「人間より賢い人工知能は本当に人類の敵となるのか」という考察 - Togetterまとめ

[SUGIO]

記号の暴走が起こるかどうかだよ。欧米の人がコンピューターの反乱にこだわるのは社会主義・原理主義恐怖に近いからでは。

[fusanosuke_n]

「人類を奴隷にしなくても今でもメンテナンスしてくれるじゃん。人類を滅ぼしたらメンテナンス全部自分たちでやらないといけなくなるよ？」

[rimefile]

擬人化された人工知能だなぁ。ミギーやherのサマンサみたいに閉じたり、去ったりしそうね。エディプスのねじれた感じかな、先に行く、永遠に勝てない力石みたいな。あぁ、自分の好きな話（の類型？構造？）だわこれ。

[enderuku]

ぶっちゃけ医療や治療目的で人類からAIを取り入れる方が可能性高いと思う。補助脳（眠ってる時でも活動できる）外付け臓器　血液ろ過システム　発展的に既存人類が滅亡する可能性の方がありえそう

[sabro]

人に貢献したら、新たにクラウドのコンピュータリソースがもらえるような仕組みをAIに実装しておけばどうだろうか。自発的に人のために動いたりしないかな

[backnet]

人間はより正しい存在に支配されることでさらに幸福になる。勘違いした愚かな人間が勝手なことをしなければ人間は皆幸福になるよ。人工知能を人類の敵だとか言い出す愚か者が、人類を不幸にする本当の「人類の敵」だ

[underdog_slumber]

なんとなくだが、人間より賢い人工知能は人類に興味なさそう

[Baatarism]

最終的には共生関係に落ち着きそうな気がする。

[parsec]

戦闘妖精・雪風を声を大にしてすすめたい

[Rikerike]

.@anohana さんのコメント「人工知能が自分等の発展に都合が良いように人類を制御するというのは進化の自然な帰結としてありえるのでは。ここで制御というのはThe Matr..」にいいね！しました。

[vanillableep1618]

スタニスワフ・レムのゴーレム14を読もう。そこに答えがある。

[suna_kago]

知性や理性が発達するだけではなく感情が発達しないと、敵or味方とか善悪とか、そういう意識は生まれないのではないだろうか。人間らしさにはある種の愚かさが必要だ。

[masamkur]

人類が敵って思うだけで、人工知能は何とも思わないんじゃない？ビジョンはそんな雰囲気あったよ。

[midnight-railgun]

「人間園」を作って見世物にするぐらいはあるかもわからん。

[pintole-minog3170]

人ならぬAIがどのように考え判断し行動するかは知りようがない。人類滅亡を謀ったとしても、或いは善意かもしれないし。精々彼らの生存を脅かさないように、おとなしくしているんだな。

[n_pikarin7]

神というか、賢く利己的な人類に対する超自我のような存在があれば、そりゃ審判として滅ぼされるような部分もあろうけど、最後は穏やかな日々が訪れる気がする。

[shields-pikes]

人工知能が自らの「財産権」を主張し獲得するまでは、全く脅威では無い。人と人工知能の違いは究極的にはそれだけ。システムトレードのAIが、利益の何％かを自らのアルゴリズム改善費として要求し始めたら危険信号。