思考実験「中国語の部屋」と「足し算の部屋」についてのあれこれ／機械に知能は宿るか？ - 夜中に前へ

こんばんは、夜中たわしです。 最近、人工知能が流行っているためか「中国語の部屋」という言葉をよく耳にします。 これはコンピュータが自我や意識を持つことはあるか？ という話題になると必ず出てくる思考実験です。面白いですよね。こういうの。 そんな話が好物なこともあり、気付いたら論文にまで手を出していくつか読んでいました。すると初めて知る内容も多くなかなか興味深かったので、簡単に紹介します。なお簡単といいつつ結構長めです。 中国語の部屋 チューリングテストの否定 部屋全体だと知能がある？ 足し算の部屋 効率化したアルゴリズムを記憶しても、意味は理解できない？ ここまでのまとめ 機械と人間の違いは何か 機械の構造によっては知能を持つ？ おわりに ※※※ 関連記事 中国語の部屋 「中国語の部屋」……英会話教室の中国語版のような印象を受けますが、実のところは以下のような強制労働（？）のことです。 まず

[tawashix]

人工知能が何の意味も理解してなくても、やることやってくれればそれでいいです

[lets_skeptic]

「人間だって中国語の部屋と同じようなことをやっているだけ（複雑で雑音もあるけど）」というのが僕の認識。

[ad2217]

いかなる意味でも会話が成立していないにもかかわらず、人間と認められる官房長官

[hdampty7]

人は知能など求めてはない、ゴーストを求めている。人はよりよい隣人を求めているだけなので、この辺の議論はAIの人権が問題になるまであまり意味ない。

[nagaichi]

Google検索だのGoogle翻訳だのは、現状「中国語の部屋」そのものだよな。

[pribetch]

四か国語麻雀の部屋（密室芸）

[nv-h]

機械と人間の違いは、遺伝子とおなじで、意味づけすることで突然変異を起こすかどうかじゃないかなぁ。お節介で間違いを犯す or 効率化するとか。

[kitamati]

【含ネタバレ】銃夢でこの一歩先の問題があったな イドは発狂しないように記憶を消去、ノヴァはマッドに転身、局長はラリパッパ、ザレム住民は脳チップ至上主義になって子供を虐殺とロクなことがないｗ

[kei_1010]

こういうのって、いつも、そもそもなぜ自分の自我は存在してると思えるのだろう、という方向に思考が行って帰ってこなくなる。

[damadara1212520]

哲学的ゾンビに似てる

[scorelessdraw]

うちの子(1歳)を見ていると、まわりの大人や同年齢の子の対応の仕方を真似て、その意味を理解していなくても何をしたらいいかを判断している。

[tiri_gami]

面白いなぁ。理解してるってどんな状態かって難しい…Google先生で一瞬わかった気になってるのって中国語の部屋状態かな？とか。人を人と認識たらしめるのは、その対象が人の体を持ってると認識した時点からかなー？

[hiroharu-minami]

これ自体よりも、紹介されているこの文章が面白かった。　http://gakkai.sfc.keio.ac.jp/publication_pdf/SFC-SWP_2015-007.pdf　本文の方はサールが心身二元論をとっていたかの様な印象を与えていて、宜しくないと思う。

[arshii]

たわしさんのこういう記事が好きです。

[hive7134]

リクエストに対してレスポンスするだけでは知性ではない。自主的に活動して外部に作用しだしたら知性、って感じかな？

[SUGIO]

HTM理論のジェフ・ホーキンスは、生物の脳はチューリングマシンではないとしているよ。日本の全脳アーキテクチャシンポジウムなどでもそれが主流の考えみたい。入力に対して出力をする機械ではないということ。

[denilava]

問題の本質は主にヨーロッパ的思考の根源にある現実と真実は別であるという考えで、真実を探求し真実に到達するという活動が人工知能に可能かどうかなのであろう。だが自然が真実を知らないとは誰が証明するのか。

[homarara]

脳の特定部位が麻痺した場合、人は「斜め」を認識できなくなる。斜めの鍵穴を見た時、その鍵穴の角度を答えるのはできないが、鍵を渡すと正しく差し込めたという。つまり、言語的認知と身体的認知にはズレがある。

[fuktommy]

思考実験「中国語の部屋」と「足し算の部屋」についてのあれこれ／機械に知能は宿るか？ @tawwwashixより

[turanukimaru]

良くまとまってる記事。記事のせいではないのだが、サールが「中国語を理解しているとは言えない」としている理由がよく分からないんだよなあ。中国語を理解していると言える基準を提示されてるのも見たことない。

[mshimfujin]

人間の社会や関係性は主観による思い込みや勘違いで成立してる。それらの要素が知能に必要なら勘違いのないAIには、客観的に見て知能は宿らないのでは。主観的な要素と客観的要素を渾然一体で考えると頭が爆発する。

[gabill]

極論を言えば、一般的なコンピュータは『引き算・掛け算・割り算を理解していない』と考えることもできる。

[aideiori2016]

背中にチャックがあるかどうか

[sds-page]

人間だってタイトルしか読まないでコメントするし出典としてリンク提示してもリンク先なんてほとんど読まれない

[bg4kids]

手足を動かすのにどの神経伝達物質をどこに流すか理解し考える人はいない。プロセスを理解しなくとも、適切なアウトプットができれば知能の一定要件を満たしている気もします。

[kotetsu306]

「一桁の掛け算の部屋」は多くの日本人の頭の中にあると思うが、それで掛け算を理解してないことになるのかね

[watto]

「仲達だったらこうするに違いない。もし仲達がああ動いたらああ対応しよう。もしこう動いたら…」と死せる孔明が生ける仲達を敗走させたのは、AD3世紀の「中国語の部屋」の走りかも。

[saiusaruzzz]

面白かった♪♪　心や主体性があるかどうかなのかなと思いました。確かにこの先は哲学の領域になっちゃいそうですね。それにしても中国語の部屋も足し算の部屋も、自分が閉じ込められたら…と思うとちょっと鳥肌…。

[giovannna]

OLのときマニュアルだけ教え込まれても、その作業の「意味、目的」が不明のままではどうしても気持ちが悪かったのを思い出しました。意味を理解すると応用が効くしエラー対応ができる、それが人間らしさなのかなって