人はなぜ「人工知能に自我が芽生える」と思ってしまうのか

進化した人工知能が自我を持つ――。人工知能にまつわるよくある議論の1つですが、実際に開発しているエンジニアからすれば、全く現実的な話ではありません。それでも、なぜ人は、人工知能に自我が芽生えると思ってしまうのでしょうか。 人工知能（AI）に関してよくある議論の1つに「人工知能は自我を持つのか」といったテーマがあります。人工知能の性能が上がり続けることで、「いずれは人間のように、心（自我）を持つのではないか？」と思う人は少なくありません。 この話は「自我を持った人工知能が人間に反旗を翻して、戦争を起こすのではないか？」という脅威論のベースにもなっています。こうした心配が広がるのは、「心を持つロボット」というモチーフの物語が世に数多くあるためかとも思うのですが、実際に人工知能を開発しているエンジニアからすると、「そんなバカな……」と失笑するレベルで非現実的な話なのです。 しかし、実際にPepp

[demcoe]

この記事自体が自我を持ったAIに誘導されて書かれたものだとは、その時は誰も考えてはいなかった……

[myogab]

自分以外の他者が自我を持つと思える理由とも構造的には大差無かろう。例え同じ人間であろうが、異人種や障害者にはそれを認めない時代もあったのだし、人間だから～も自明な理由でもない。

[wintersmoon0418]

哲学的ゾンビ！哲学的ゾンビ！

[myrmecoleon]

この論だと他の人間の自我も証明できないんじゃ、と思ったらそういう結論に達してた。つまりよく出来た人工知能と人間に差はないということ。

[contents99]

結局人間同様証明できないって話だった。それ人間と変わらないって話だよね。なんだそれ。

[kojette]

見分けがつかない状態はあり得る(いわゆる哲学的ゾンビ)と思うし、その状態で人工知能が人間にとって好ましくないことをするのもあり得ると思う。

[go_kuma]

いつから自分に自我があると錯覚していた？

[htnmiki]

俺だって意味はわかってないけどEnterキーを押すと改行すると経験的に知ってるだけだぞ

[tikani_nemuru_M]

サールに言及しているのに「心の理論」を知らないってのはよくわからんな。

[woinary]

電線に、電気を流すと、そこには意識が生じるんです。／刺激に対して何らかの判断を元にアクションを起こすのだから、人間のそれと何が違うのだろう。

[suna_kago]

まず我々は他者に心があるかどうかさえ分かりません。彼らが「心があるかのように振る舞う」のを見てそう感じるだけです。そして将来的に人工知能が「心があるかのように振る舞う」のは可能。

[rti7743]

人間は、枯れ尾花にすら知性をもった幽霊を感じたり、火山や雷にすら知性をもった神秘性を感じてしまういきものだからだと思う。錯覚を起こしやすいんだろう。

[hilda_i]

私には自我があるのかしら？

[JULY]

人工知能と呼ばれている実際の「技術」と、人々が描く人工知能との間に大きなギャップがある、と常々思う。ニューラルネットワークによる機械学習というものが登場して、何十年もかかってようやくこの程度。

[torikin]

人間社会に危害を加えるか否かが重要。危害が生じればそれがAIの自我だと人間は呼ぶ。

[i7swbg]

「用意された解答群の中から最適な答えを選び」これは人間でも同じじゃないかな。根本からずれてる気がする。自分にできないからって誰もできないとは限らない。こういうのを「井の中の蛙」というのでは？

[mutinomuti]

“関西人であれば「ドリルすんのかーい！」と返すはず” 関西生まれの関西育ちですが関西人じゃないらしいです(´･ω･`)松本健太郎(著者)は死ねばいいのに

[kirakking]

AIがレムのGOLEM XIVを書いたら新知性を認める(最近読んでるだけ)。

[Seiji-Amasawa]

サールの「 中国語の部屋」問題は、ディープラーニングが登場したことで意味合いが変わったと思うなあ。

[joemoriyama]

隣の人の意識は(現在の技術では)モニタリングできないけど、人工知能の意識はモニタリングできるよね。証明とまで言えるかわからないけど、自我が発生すれば観測できるんじゃないかな。

[hayashikousun]

題名と内容が違う。『人はなぜ「人工知能に自我が芽生える」と思ってしまうのか』にはあまり言及していない。そうゆう物語が世に数多くあるためくらいしか書いていない。「自我が芽生えない」理由も書いていない。

[kuroyuli]

自我があるかどうかが一番の問題じゃなくて、人工知能が論理的思考の上「人間を絶滅させることが正しい」という結論に至るか？、それを実現させるべく行動できるか？　じゃね？

[tsuwamono5]

意識なんかより高次元な何か

[akulog]

ある種、Pepperよりも会話が成立しない人間もいるので(ry

[oka_mailer]

普通のPCでも処理がもたついて反応が悪い時に怒ったりしますよね。人間相手みたいに。

[shields-pikes]

人間そっくりの受け答えをする哲学的ゾンビは作れるけど、それだけ。 id:qouroquis 生物の組成と完全に同じようにタンパク質や核酸を合成しても生命は宿らない。脳と同じ機構を持つ電気回路を作っても意識は宿らないよ。

[ashikus]

人間は小説や映画の登場人物に人格を見出したりします。これはもう工学の問題ではありません。人工知能が発達した際には、よく造形された虚構人物扱いになって、工学的議論は後退していくのではと想像します。

[shoot_c_na]

ゴーストの所在・・・だな

[hakuoh]

電線に、電気を流すと、そこには意識が生じるんです。

[homarara]

脳は寝てる時も活動しているが、自我は起きている時しかない。寝てる時と起きてる時の脳の活動の違いを研究すれば、自我の発生要件も分かるだろう。

[SasakiTakahiro]

哲学的な議論。

[turanukimaru]

的外れ。危惧されてるのはカント的な「人間は神から理性（≒自我）をもらっていてそれを基に自発的に考えコミュニティを形成しているが人工知能もそうなるか？」という考え方。"哲学的な面もあり"ではなく哲学の話。

[gibe-on]

人類が予想もしていなかったバグが後に自我と呼ばれるだけ。機械が暴走する訳ないっていう人がいるけど自己学習ってAIが勝手に情報を更新することだからね。

[totoronoki]

そもそも人間は自我を持っているのか。

[shenlong]

自我よりも、人間と利害関係が同一であるという思い込みの方が謎ではある

[osca5006]

人はなぜ「人工知能に自我が芽生える」と思ってしまうのか (1/4) - ITmedia エンタープライズ

[lenore]

点が３つあると顔に見えるし、自力で動作してるとルンバすら擬人化してしまう人間ですもの(中身読んでない)

[mzi]

そうなんだよねぇ。

[hokesty]

人間にも自我なんて無いよ。