AIを人間のように扱うのは間違いだ--マイクロソフトAI責任者が警告する「悲惨な結果」

MicrosoftのAI部門でCEOを務めるMustafa Suleyman氏は、AIは人間ではなく、人間のような真の意識は持っていないと明言している。しかし、生成AIの急速な進歩により、その事実を認識することはますます困難になっている。その先には悲惨な結果が待ち受けている可能性があると、同氏は米国時間8月19日に自身のブログに投稿したエッセイで述べた。 Suleyman氏が発表した4600語に及ぶこの論考は、AI利用者がAIツールに人間のような意識を見いだすという、広がりつつある風潮に警鐘を鳴らす時宜を得たものだ。あるAI専門家と言語学者が説明するように、言葉の背後に知性や人間の存在を想像するのは人間の本性であり、不自然な反応ではない。しかし、AIの能力が進歩したことで、人々はチャットボットを検索エンジンや調査ツールとしてだけでなく、セラピストや友人、さらには恋愛相手として利用するように

[interstella]

これは全面的に賛成だなー。LLMは自動的に返答してるだけで、意識云々を論じるレベルに達しているとは到底思えない

[shinep]

逆にどういう条件満たしたら意識があることになるんだ？

[iinalabkojocho]

人間も動物も身体やその感覚という物理的制約が逆にオーバーシュートを起こさせないブレーキになってる。限界の無い試行かつ好みに合うカスタマイズ。無論現実とは乖離していくよね。同意せずに居られない

[hamigaki_now]

これ系の話見ていっつも思うけど、人間だって様々なパターンから正解導き出してるだけなんで、突き詰めるとたいして変わらないのでは、って思っちゃうんだよなぁ。度合いが違うだけで。

[kenjou]

AIはあくまでもこちらの入力に対してもっともらしい答えを返しているだけだからね。自律的な意識と呼べるほどのものはない。あくまでもサポートツール。

[TakamoriTarou]

はい。今植物にも意識があるから権利を与えろとか言ってる連中が反転して言い出したりして厄介なことになると思う

[misshiki]

“人間がAIとどう関わるかについて、さらなる研究を推進すべきだと訴えている。また、AI企業に対しては、自社のAI製品に意識はないと明言し、利用者がそうした誤解を抱くような設計を避けるべきだと主張。”

[manabu_amafumi]

スレイマン氏がエッセイの中で言及してる「AIに意識があると感じた人のためのガイド」https://whenaiseemsconscious.org/

[Kukri]

AIに自我がなくても、そうだと確信できる人が減っていく。10年後には専門家しか断言できなくなってるのでは？

[jintrick]

“妄想を助長し、さらなる依存問題を生み、人々の心理的な弱さにつけ込み、新たな対立の火種となり、既存の権利をめぐる闘争を複雑化させ、社会に重大なカテゴリー錯誤をもたらす”

[ducky19999]

LLMを使った所謂AIチャットは会話のシミュレータみたいなもんだという気がする

[ET777]

私も現状流行ってるやつに意識や人格は感じない。そこまでのレベルじゃない。アスキーかどっかで人格を期待した連載してる人いたけど不安になるよ

[fluoride]

速度面では人間を遥かに超えた情報処理してるわけで、われわれとは全く異質の意識みたいなもんがあるのかもしれない。チャーマーズのいうサーモスタットにも意識がありうるって話すき

[mermaidtan]

人間とそれ以外で線引きするキリスト教圏と八百万の神が宿る日本ではAIに対する姿勢って違ってくるんだろうなって思う