AIは「思考している」のか、それとも「思考しているよう見せかけている」だけなのか？

AI技術は急速に進歩しており、高度な問題に回答したりかなり自然な会話ができたりと、高い能力を発揮できます。一方で、「中国語の部屋」という思考実験に代表されるように、「AIは思考しているのか、それとも思考しているように見えるだけなのか」という疑問は常に存在しています。オンラインメディアのVoxが、AIに思考が可能かという議論についてまとめています。 From OpenAI to DeepSeek, companies say AI can “reason” now. Is it true? | Vox https://www.vox.com/future-perfect/400531/ai-reasoning-models-openai-deepseek OpenAI o1やDeepSeek r1などの大規模言語モデルは、大きな問題を小さな問題に分解し段階的に解決する「思考連鎖推論」によって

[LM-7]

人間だって多くの場合、全く考えてないか、考えているフリをしているか、そもそもその能力が無いかだろう

[sumomo-kun]

まずタイトルを読みます。次に自分の党派に沿った結論を出します。最後に理由をひねり出し、ブコメします。本文は読みません。それがブクマカの思考法です。

[ntstn]

結局人間も同じような仕組みなんでは？と思うので人間だけと言うのは驕り。AIが途中寄り道したりするのは面白いなーとは思う。

[cj3029412]

ヒトの思考(考察)が実のところ「巨人(先人)の肩の上で」「型をなぞっている程度」でしかない。AIが無思考なのは自明だが、ヒトの側の「思考」が相対化される。いいことです。

[jintrick]

去年くらいまでは思考していないことがはっきり分かるモデルばかりだったけど、最近はそういうそぶりを見せないように進化してきていて、もはや思考していようが見せかけていようがどうでもいいと思えるようになった

[ichiken7]

AIは問いに対して一番それらしいこと、求められているであろうことを回答しているにすぎない。それは人間も同じ。それを思考というなら思考だし、心というなら心。

[filinion]

SFでは昔から「人間とは異質な思考形態を持った宇宙人」が出てくる。AIが「人間のように」思考していないとしても、思考していないとは言えない。／川渡り問題みたいなミスは人間でも時々やるしなあ…。

[slkby]

かつて大学で機械学習を扱っていたころ、ヒトの脳ような機能を持つNNが作れることとヒトの脳が同じ仕組みを持っていることはまったく別と度々言われた思い出。後者は結局のところヒトの脳を研究しないとわからない。

[gewaa]

「AIも人間も同じ」って言いたがる人こそ知的レベルが低いと感じる。挙動が似ていることは当然の前提として、それでも違う部分が見受けられるって話をしているのに、前提段階で話を止めてドヤっているから。

[dekaino]

人間の思考とは違うロジックで思考しているだけでAIは思考してないわけではないと思う。見方によれば人間の脳だって「思考しているように見せかけているだけ」と言えるだろう。

[ookitasaburou]

“オンラインメディアのVoxが、AIに思考が可能かという議論についてまとめています。”

[misshiki]

“「推論」の定義について、OpenAIなどのAI企業は、「言語モデルが問題を小さな問題に分解し、段階的に取り組んで、結果としてより良い解決策に到達すること」といった意味で使用しています。”

[deep_one]

LLMは「思考のふり」しかしないのは定義からして自明。

[eagleyama]

それは「思考」の定義による。

[mmaka2787]

帰納法的な思考はできているが演繹法的な思考は全くできていないように思う。抽象的な理解や思考はできておらずとてつもなくレベルの高い猿真似の域を出ていない。が世の中の大半はそれでお釣りが出る。

[sinagawaminato]

ATRIを思い出した

[go_kuma]

人間の思考も内部のプロセスは見えないから一緒なんじゃないの？

[poad1010]

この記事をおすすめしました

[t-murachi]

なんか哲学っぽいことを言って気持ちよくなってるだけの人たちがいっぱい集まってる…(´・ω・`)

[tach]

AIが思考していないことは明らか。寧ろAIは従来「思考」だと思われていたものの大部分が実際は「思考」などではなかった事を明らかにしてくれたのだと自分は解釈している。

[Nihonjin]

AIが「思考してる」のであれば、「責任を取らせる」ことができると思う。

[va1nchamber]

AIがデタラメを出力することをハルシネーションと言うが、LLMの仕組みから考えれば内容が正しい場合であっても「たまたま正しかったハルシネーション」でしかないんだよな

[tettekete37564]

長い人工無能時代にこんな形でAIが実現されるとは思ってもみなかった。ニューロンだのシナプスだののエミュレートに可能性を見ていた世代としては単なる確率論がこの様なAIをもたらした事に驚きの念を禁じ得ない

[yoshi-na]

“ブクマカは「記事を読んでいる」のか、それとも「記事を読んでいるよう見せかけている」だけなのか？”

[u_eichi]

人間の「思考」がどういったものなのか、AIの出力プロセスと比較でき得る形に定義ができそうにない。

[WSOH]

論理学で言うところの推論を本当に人間がやっているかは大いに疑わしいと思う。

[fraction]

Aを包含するBにおいて可能だがAに限ると不可能な操作があります、知ってますか？で100%の正答。それではBにおいて可能なAを変形する操作して下さいと要求するとA内部だけで頑張って自称正解ってのは思考って言えるの？

[hinonono]

ChatGPT o1などのReasoningモデルで人間の思考の仕組み「システム2」を模倣したり、AIが数学の未解決問題を解いたりしても、機械がやっていると思考してないと言い出す謎。

[quwachy]

思考はしている、ロボットは人間のように筋肉で動くのではなくアクチュエーターで動いているように仕組みは違うが動いている。思考していないというのは筋肉じゃないからロボットは動いていないと言ってるのと同じ

[konnie]

哲学的ゾンビ

[spark7]

少し端折りすぎかな。元記事で読むと懐疑派と支持派の対比がもう少しわかりやすい。 https://www.vox.com/future-perfect/400531/ai-reasoning-models-openai-deepseek　支持派の方が納得感はある。"超絶暗記力と少しの推論" という状態かもね

[stabucky]

自分も条件反射の見せかけで行動しているけどね。

[wnd_x]

人が思考してるのかどうかをまず先に確認した方がいいのでは

[takeishi]

人間のような推論はしていないからなあ。現時点ではGoogle検索の高度なやつなので。

[osaan]

「考えるゆえに我在り」ではなく、「我在らざらんところで考える」(ジャック・ラカン)というのがポストモダン。AIは思考するが人間は思考しない。

[nagapong]

それ系の煽り、全部自分たちに返ってくるからよくないとおもうよ

[harumomo2006]

今のAIは人間がやってることをパターン化して覚えてその通りにしているだけなので考えてはいないけどその結論はだいたい人間が考えてる通り

[GWTL]

タイトルは「思考している」のかとあり、思考連鎖推論や推論による思考の飛躍という言葉が出てくる。ざっと見、おおまかは推測できけど、自分の理解は色んな所で間違っていそう。

[mellhine]

「人間も同じ」という奴は自分がよく考えてないっていうCOなんじゃないか？人間はもっと思考できるものだよ。「純粋理性批判」を書けるのはまだ人間くらいしかいない。

[n_pikarin7]

問われて答えるのも思考だけど、自ら問うとか、問い自体を作り出すことも「思考」だよね。AIにはまだ未達っぽいけど…