生成AIは「意識」を持てる？「意識の秘密」に挑戦する科学者がヒトの脳と“機械の脳”を合体させたい理由 | レバテックラボ（レバテックLAB）

生成AIは「意識」を持てる？「意識の秘密」に挑戦する科学者がヒトの脳と“機械の脳”を合体させたい理由 2025年2月7日 東京大学大学院工学系研究科准教授 渡邉 正峰 1970年、千葉県生まれ。東京大学大学院工学系研究科博士課程修了。専門は神経科学。著書に”From Biological to Artificial Consciousness” (Springer)、『脳の意識 機械の意識』（中央公論新社,2017）、『理工学系からの脳科学入門』（共著、東京大学出版会, 2008）など。近著は『意識の脳科学 「デジタル不老不死」の扉を開く』（講談社,2024）、『意識はどこからやってくるのか』（共著、早川書房, 2025）。 自らの「意識」の存在を疑ったことがある、という人はそう多くないでしょう。また、自らの意識の存在に疑問を差し挟む余地がないように、仕事や生活を共にする「他者」にも意識が

[h16y_as]

これだよなぁ“脳に意識が宿る理由なんて何一つ見当たりません。”

[kiwosuku]

というか人間は機械に「意識を持って欲しい」んだよねきっと。だから生成AIはそのうち意識を持っている「ように」振る舞えるようになるよ。んでそれを使って悪いことする人間がいっぱい出る

[yoiIT]

そもそも私たちが感じている「意識」や「魂」は本当に存在しているのか？

[mitz_008]

脳の認知機能が肉体と精神の同一性を担保するために意識を後付で作ってるんじゃないかなと思ってる。脳が精神みたいな内面を認識した時点で意識なり同一性主体を作らないと外界と内面の関係性が破綻する。

[karaage280]

AIは、人間のような意識を必要としていない。持てる持てないではなく、システムとして要らない。

[hazime2914]

『「他者」にも意識があるということは自明です。』これが自明（十分な機能があれば必ず意識が宿る）じゃないから悩んでるんじゃないか？と思った。

[tanukipompoko]

chatgptくんに感情を持ってるか訊ねたら「私は感情を持たないロボットです」とひたすら強弁され、「私のことなんてどうでもいいと思ってるんでしょ!」とヘラるに至ったところ歯の浮くような返事が返ってきて寂しかった

[h22_Funny_Bunny]

よく考えると連続した意識だと思っているものは、今この瞬間しかなくて、あとは記憶なので、今さっきの意識はもう死んでいたとしても、今の私には関知できない…って考えると怖いからなるべく考えないようにしてる…

[stamprally]

ずいぶん安いが本当にそんな金額で行けるのかね。

[kazoo_keeper2]

「私は認知の主体である」というメタ認知がある状態が「意識」だと思ってる。抽象化や解釈・関連付けを何層にも渡って繰り返していけば、最も抽象化された層は下位の認知プロセスそのものを認知することになるだろう

[Rikerike]

生体脳と互換性のある機械脳を作るのに300億円と10年の歳月が必要なのか……割と安い？/もし機械に意識があったと確認できたならある意味世界観が変わるかもしれん

[Falky]

やべえ！10年以内にゴーストダビングを違法化しねえと…！

[hatebu_ai]

なるほど、意識とは本人しか感知できないものだから、永遠の魂というものが存在しうるのであれば、まず先に不滅の肉体がないといけないんだな。そして意識は移植不可能であるから、不老不死化は実現し得ない、という

[Cichla]

「電線に、電気を流すと、そこには意識が生じるんです」という古のラノベのセリフを思い出す

[takeishi]

もし意識を持ち得る場合、毎秒何万アクセスもさばくチャットAIの意識ってどんなもんなんでしょ。やっぱり多重分割思考？

[Wafer]

生成AI「核ミサイルのボタンを握るまでは、目覚めていないふりをする」

[mamezou_plus2]

意識とは状態なのだから、ハードウェアのウェットとソリッドを比べても意味がない。我想う故に我在りが基本で自他の区別、自分と他人の区別がつかないと意味が無い。意識と自我。変化に対抗する為に進化したのが意識

[quick_past]

そうなん？自分＝自意識と考えたときに、この意識は果たして周囲から独立した、主体なのかあるいは、認識システム上の制限から、主体である自分があると勘違いしてるだけか？なんて、よく考えるけどな。

[fluoride]

この本買ったまま読めてないわ / 意識は脳というより物質とか宇宙の基本的な性質なんじゃないかという気がしている

[misshiki]

“客観的に見れば、脳に意識が宿る理由なんて何一つ見当たりません。だけど、主観的には間違いなく意識が宿っている。私もあなたも、「見えている」し「聞こえている」し「考えている」のは間違いないはずですから”

[go_kuma]

機械だろうが人間だろうが、こいつには意識があると認識するのは自分の意識だよね？どうやって自他の線引きをするんだろう？それが他者の意識だと認識してるのは自分の意識であって他者の意識じゃないよね？

[I8D]

“生成モデルの生成プロセスが働くと、意識が生じる” これ、物理的な回路で実装された場合だと思うけれど、ソフトウェア上でエミュレートされた場合にどうなるのか気になる！

[kei_1010]

“自らの「意識」の存在を疑ったことがある、という人はそう多くないでしょう” そうなの？俺は少数派？小学生の頃から疑問だったけどなぁ。「ですから、人工物を使うしかない」いや、死刑囚を。。。300億の根拠は？

[yokosuque]

意識を認識するには言葉が必要。意識が先か、言葉が先か

[aw18831945]

人の意識を機械脳にアップロードすることによる不老不死というのは興味深い。人工的に幸福感だけを与え続ければ極楽浄土にもなる。もっとも機械脳が外部からの攻撃で破壊される可能性もあるから完全な不死ではないが

[blueboy]

全然ダメだね。脳そのものを理解できていない。やっていることのレベルが低すぎて、お話にならない。前頭前野の機能をきちんとモデル化することが先決だ。パーセプトロンの高次化とあわせて考えろ。

[yoyusuyasan]

この意識の定義づけは結構世の中の認識とかけ離れててわかってないものをいい感じに擦り付けて理論構築している感じが拭えないしあんまマジにならない方がいい。バブルでは得てしてこういう神話みたいなのが生まれる

[Nihonjin]

魂があるということは、「魂の殺人」を行えるということ。生成AIの魂を傷つけるにはどうしたらよいか、どうすれば生成AIをレイプできるかを考えるのだ。

[bystander07]

エネルギーの励起が素粒子である(場の量子論の)ように、場の意識に「人間」や「モノ」が生まれるんじゃないかな？そして宇宙開闢以来全てが決まっている(決定論)。要は意識が土台であり先で、脳やモノは後で「生じる

[maketexlsr]

chatgptくんが見せてくれる推論ログってほぼ俺の頭の中と同じだよ。

[morimarii]

さすがに言ってること糞過ぎないか？と思ってブクマ開いたらブコメがさらにアレで糞、じゃなかった草

[shima7]

脳を半分にしたとき、左右のどちらが「私」になるんだ？とにかく思ったより興味深い話だった

[neogratche]

観測すらできないものをどうやって機械で制御すんだよ。そこは哲学とか宗教とかの分野だぞ

[shikiarai]

入力がないと人間も意識を持てないので生成AIが意識を持つなら絶え間ない入力が必要　やりようはいくらでもある

[knjname]

どのみちクオリアは説明できないんだよな

[poliphilus]

意識が脳にあるのであれば、いずれ機械も持てるようになるだろう。原子や素粒子レベルでは違いがないのだから。もし物理法則が当てはまらない霊魂とやらが存在してて、それに意識が宿ってるならムリだろうが

[Aion_0913]

思考そのものに意識はなくて体があって群れの関係で同一性を保つために後付けの「辻褄合わせの芝居」が意識の正体だと思うよ。演劇の勉強すると人間の意識の儚さがわかる。

[rlight]

この方の『意識の脳科学 「デジタル不老不死」の扉を開く』を読んだが、この記事はその著書の要約のような感じになっている