以下は、ウィリアム・パターソン大学哲学教授のエリック・スタインハート氏の記事 "The Singularity as Religion" の翻訳です。 宗教としてのシンギュラリティ シンギュラリティにまつわる文化と言説のほとんどは、宗教的であると思う。この考えは、部分的には、デイヴィド・ノーブルの本『The Religion of Technology』とロバート・ゲラチの『Apocalyptic AI』を読んだことに基づいている。どちらも素晴しい本である。また、私はテクノロジーと宗教に関する書籍や記事のリストを編集して、ウェブサイトに掲載している。 宗教としてのシンギュラリティは、完全に悪いものではないかもしれない。宗教はいろいろな形でポジティブな力となりうる。少なくとも、シンギュラリタリアニズムは新たなタイプの興味深い宗教運動となりうるだろう。 なぜシンギュラリティは宗教であると考える

シンギュラリティ論においては、ひとたび人間を超える人工知能が作られると、その人工知能は自身の知能を再帰的に指数関数的に成長させるのみならず、物質的貧困や紛争といった社会のさまざまな問題までもたちどころに解決できると主張されています。 この種の根拠のない信念、すなわち、「知能の高さや思考の量のみが進歩におけるボトルネックである」という「思考主義」の考え方について、前回のエントリで検討し批判しました。 もちろん、純粋な思考力のみによっては科学研究や技術開発を進歩させることは不可能です。それだけではなく、開発されたテクノロジーを社会に展開し、テクノロジーが社会を変化させるためにも、やはり長い時間を要します。物理的な物体を置き換えるには時間とエネルギーを要し、現に存在する過去の進歩の成果が未来の進歩への障壁となるからです。 先進的なIT企業におけるプロダクト開発の事例においては、1年や1ヶ月といっ

シンギュラリティ論、特に知能爆発説のシンギュラリティ仮説においては、ひとたび人間を超える人工知能が作られると、その人工知能は自身の知能を再帰的に指数関数的に成長させることができると主張されています。 更には、その超人的人工知能は、自身の知能を指数関数的に成長させるのみならず、科学やテクノロジーの未解決問題、果ては貧困や紛争といった社会問題までもを、短期間のうちに解決することができると信じられているようです。 けれども、この信念、すなわち「進歩の障害となるものは思考力の量、あるいは知能の高さのみである」という考え方は、論理的には完全な誤りであり、ケヴィン・ケリー氏はこれに「思考主義(Thinkism)」という名前を付けています。実際のところ、科学やテクノロジーの進歩においては思考以外の要素が必要となるからです。 少し長くなりますが、ケヴィン・ケリー氏の言葉を引用します。 ガンを治す、あるいは

新薬の開発は、2329年には完全に停止します。 製薬業界の研究開発コストに対するリターンは、過去60年間、定常的に指数関数的に低下し続けてきました。シェフィールド大学物理学科教授リチャード・ジョーンズ氏によると、西暦2339年には1件の新薬開発に要するコストが (2013年時点での) 全世界のGDPを超えてしまい、新しい薬品を作ることが完全に不可能となってしまうのだそうです。 2010年までに、失敗に終わった新薬開発の費用を含めて、1つの新薬を開発するために平均で21億7,000万ドルの研究開発費用が費されていました。新薬開発の費用は、収穫加速の法則よりはむしろプランクの原理に従っており、1950年以来、1年に7.6%の割合で指数関数的に増加しています。単純計算では、9〜10年で新薬開発に要する費用が倍になるということを意味します。 もちろん、(ジョーンズ氏自身が認めている通り)、こんな外

近年のシンギュラリティに関する議論ではほとんど注目されることはありませんが、ヴァーナー・ヴィンジ氏が1993年に提唱したシンギュラリティ論においては、いわゆる汎用人工知能の発明以外にも、薬剤や遺伝子工学による人間の知能増強が、シンギュラリティを引き起こす仮説上の超知能の発生方法として提唱されていました。 近年では、CRISPR-Cas9など、生物のゲノムを人工的に操作し、人為的に意図した通りに単独の遺伝子を編集する技術が開発されています。既に2015年には、中国でヒトの受精卵に対するゲノム編集が行なわれています*1。(ただし、これは純粋な学術実験であり、妊娠・出産を目的としたものではありません)  2017年現在のゲノム編集技術からすると、明日にでもゲノム編集を受けたデザイナーベビーが妊娠中である (または既に誕生した)、というニュースがあってもおかしくありません。 もちろん、この種のゲノ

以下はイギリス、シェフィールド大学物理学科教授リチャード・ジョーンズ氏のブログ Soft Machines の記事 "Brain interfacing with Kurzweil" の翻訳です。 シンギュラリティ大学におけるレイ・カーツワイル氏のやや誇張された計画について [訳注：ジョーンズ氏の過去記事コメント欄にて] 進行中の議論において、私はもう一度彼の本『シンギュラリティは近い』を読み返すように薦められた。また、ダグラス・ホフスタッター氏のやや侮蔑的なコメント、ガーディアン紙上で公表され私も以前の記事で引用した文について、その全ての文脈を見返すようにも薦められた。ホフスタッター氏の発言は、このインタビューで読むことができる。[リンク切れ] 「それは確実で優れたアイデアと狂ったアイデアの奇妙な混合物である。まるで、素晴しい食事と犬の排泄物を混ぜ合わせ、何が良くて何が悪いものであるか見

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が発生し、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が起きるという仮定です。 前回のエントリでは、主にカーツワイル氏の説である「収穫加速派」における超知能について検討しました。 今回は、残りの「事象の地平線派」および「知能爆発派」における超知能の出現について扱います。この2つの派閥に分類されるシンギュラリティ論においては、だいたい以下のようなプロセスを通して「シンギュラリティ」が到来すると主張されています。 超知能体の出現 テクノロジーの進歩により、何らかの「人間よりも優れた超知能」を持つ存在が作り出される。 超知能体による超々知能体の設計 「人間よりも優れた超知能」を持つ存在は、「自身よりも更に優れた超々知能」を設計し、作り出すことができる。 知能爆発と断絶的

カーツワイル氏が未来を予測する根拠である「収穫加速の法則」ですが、彼がその「法則」を例証していると主張するグラフが、以下の「特異点へのカウントダウン」と名づけられたグラフです。 なお、本エントリにおいては、「収穫加速の法則」は「『パラダイムシフト』が発生する時間間隔の指数関数的な減少」 を意味するものとします。 一見すると、この「収穫加速の法則」のグラフ上に描かれたそれぞれの事象は、対数グラフ上の綺麗な直線、すなわち指数関数的成長を描いているように見えます。けれども、注意して項目を見てみると、非常に問題のある表現がされていることが分かります。 カーツワイル氏は、何が「パラダイム・シフト」であり何がそうでないかを選択する基準を示していません。そのため、次の「パラダイム・シフト」のタイミングで一体何が発生するのかは明らかではありません。パラダイム・シフトの定義として、「ものごとを遂行するための

カーツワイル氏がシンギュラリティを予測する根拠である「収穫加速の法則」ですが、彼はこの「法則」を複数の意味で使っており、非常に多義的で曖昧な、対象が定量的ではなく分かりづらい「法則」となっています。 そもそも、(シンギュラリティに関する議論においては非常にありがちですが)、シンギュラリタリアンの内部ですら「収穫加速の法則」という言葉の定義が異なっている場合すらあり、批判を受けた際に法則の定義を取り替えて反論していることもあります。 広義での「収穫加速の法則」は、テクノロジーや人類文明の進歩が指数関数的に進んでいくこと、と表されます。けれども、厳密な意味において、一体何の量が指数関数的な成長を遂げるのかはあまり明確ではありません。 『ポスト・ヒューマン誕生』における「収穫加速の法則」という言葉の意味を整理してみると、大きく4通りの意味で使われていることが分かります。 (以下のページ数は全て日