技術的特異点の恐怖。AIの進歩により人類が支配されることが現実味を帯びてきた | 不思議.net - 5ch(2ch)まとめサイト

技術的特異点は、「強い人工知能」や人間の知能増幅が可能となった時点になると考えられている。 フューチャリストらは、特異点の後では科学技術の進歩を支配するのは人類ではなく強い人工知能やポストヒューマンとなり、従って人類の過去の傾向に基づいた変化の予測モデルは通用しなくなると考えている。 数学者、スタニスワフ・ウラムはジョン・フォン・ノイマンとの会話に言及して次のように書いている。 あるとき、進歩が速まる一方の技術と生活様式の変化が話題となり、どうも人類の歴史において何か本質的な特異点が近づきつつあって、それを越えた先では我々が知るような人間生活はもはや持続不可能になるのではないかという話になった。 統計家 I. J. Good は、人類を超える知能の効果を強調するという点でより特異点らしいシナリオを描いた。 超知的マシンを、いかなる賢い人もはるかに凌ぐ知的なマシンであるとする。そのようなマシ