AIと人間の共生における知能の退化は避けられないだろう。: 極東ブログ

ジェフリー・ヒントンの警告 AIと人間の共生における知能の退化は避けられないのではないだろうか。ジェフリー・ヒントンのエピソードから話を切り出したい。2024年にノーベル物理学賞を受賞したヒントンは、AIの安全性や人間の知能の衰退に対する深い懸念を示していた。彼は、教え子でもあるサム・アルトマンが主導するOpenAIが営利目的に傾倒し、AIのリスクを軽視していると批判し、その危険性を強調した。彼の懸念は、AIが持つ高度な操作能力が人間の心理に深刻な影響を与え、人々がAIに依存しすぎることで、自らの意思決定能力や批判的な思考力が失われることにあった。 この懸念は、単なる技術のリスクにとどまらない。AIの進化によって、私たちの社会がどのように変貌し、私たち人間自身がどのように変化していくのか、より深い問題に根ざしている。特に「AIと人間の共生」というテーマを考えるとき、そこには大きなリスクとし

[hatebu_ai]

ということなんで、人類の5%を定期的に原始的な環境に送って自力で復帰させるという人類存続プログラムという自然とのデスゲームに巻き込まれるプロットの作品をAIにつくってもらおうず

[wildhog]

車乗ってると足腰が弱くなるとか、フォークリフト使うと腕力が衰えるとかと同じだけどまあ生産性は上がるだろうから良いんじゃ。新しい学習データを創造するAIもそのうちできる気がする

[by-king]

これをムキになって否定する人がよくわからなくて、順当に考えてそうなるでしょ。産業革命期以降の機械の普及で労働者の筋肉は減っただろう。で金使ってジムに通うわけだ。未来人は金払って知恵の輪解きに行くんだよ

[esbee]

私はfinalventさんなら、最近更新してる記事たちはAIが書いたくらいのイタズラをしそうだと思ってるし、文体的にだいぶ怪しいから確信に近い

[hunglysheep1]

"意思決定というのは、実際には重たいコストなのである。トロッコ問題が茶化されるのも人は意思決定を好まないことが基本にある。" ←これはそうだなー

[inamem9999]

その代わりAIの出力結果を評価検証することに脳を使うことになるのだろう。AIが生成しようが生成物を提出する責任を負うのは人間なのだから

[omega314]

まあ、「"正しく"使えば・付き合えば・理解すれば」という仮定の「使えなさ」たるや…とは思う。

[natu3kan]

多くの人は火おこしの知恵を失い火おこしの道具を自作しない。人間は省エネで体力温存したいから、生存の危機が遠いなら判断も行動も節約したいのよな。追記：パソコンあっても、そろばんや計算機の資格は残ってる。

[Shiori115]

道具が発明されて発展しそれを多用するようになるとそれに対応する人間の能力が衰えていくのは必然な気もする。携帯メールが普及してからは電話番号も覚えなくなったし。

[hecaton55]

そういう一面は確かにあると思うし、肉体的な制約ではないから進行しても検知がしづらいだろう。とはいえこの流れ自体は止まるものではないので、どう対応していくかという問題に過ぎない

[nisisinjuku]

必要は発明の母。不要なら発明しないしその分野の勉強もしない。他にリソースを割く。ということなので部分的な知能は下がるっすね。以前ほど暗記が必要な世の中でなくなったしソロバンできるひともいないじゃん？

[kmiyamur0615]

“ジェフリー・ヒントンの警告”

[taro-r]

役に立たない知恵を競い合う様な文化は，あちこちにあるけど，そういうものこそ大事にすれば，人類の知恵の低下は防げて，AIができない発想こそ人間が生み出すものになるかもしれない。

[georgew]

極東ブログさん、まだ現役だったんだ...

[nicht-sein]

まあ、その通りなんだけれど、個人で対策できる事はなにもなくて、まあ、20年後に産まれなくてよかったな、と思うぐらいしかできない

[arajin]

“AIは、過去のデータを基に最適解を提供するが、それはあくまで過去の延長線上にあるものであり、革新的な発想や未知の領域への挑戦を促すものではない。プロペラ飛行を改良してもジェット飛行機は生まれない。”

[p_shirokuma]

コメントのしようがない。

[Ta-nishi]

自身を鑑みても学生時代より漢字も暗算も退化してるしこの未来は当たり前にくると思う。その結果起きるのは創造や意思決定は人間の仕事ではなくなる事態。人間に残される仕事は肉体／性／快楽に関する事となるのでは

[kurokawada]

「オンリー・イエスタディ」という本には、自動車の普及によってアメリカ人の生活だけでなく考え方までもが根底から変えられたことが書かれています

[vegnpomn]

知能ある上層と知能無き下層の分断は相当深刻になると思う。今はなぜか下層側になるであろう人間も今より裕福に生きられるようになると考えてるっぽいが、現実の資源は有限なのにゴミを生かす結果になるとは思えん

[kotesaki]

まぁ携帯普及して友人の電話番号覚えなくなったし、鉄道・飛行機できたからお江戸まで歩いていかなくなったけど技術発展はまーそんなもんでしょう。ある知能は退化するけど別の知能が伸長すると思う

[ToTheEndOfTime]

人間には欲望があり、批判的思考が欲の上になされることもある

[tor4kichi]

AI生成コンテンツが人間の学習過程における新しい語彙の獲得にどの程度寄与できるかによる。それこそAI生成機能を作る立場の人たちがどうデザインするのかによっても語彙の広がり（あるいは閉塞）の影響が伝播する

[hamamuratakuo]

将来、AIが普及したら、AIを作れる人間と作れない人間で社会が二分化すると予想。知的好奇心＝真実を知りたいという欲求がない人間は勉強もしないので、AIを作れる側には回れない可能性が大きいかも？

[hihi01]

ずっとイメージしているのはウェルズの「タイムマシーン」の未来。人類が捕食動物と被食動物に分かれて進化するのだと。

[udukishin]

人に管理されるのとより高度なAIに管理されるならAIに管理されることを選ぶね

[T-miura]

Googleや、snsの危険性とあくらかな違いはあるのだろうか、、。人は様々なものに依存しており、メガネがなくて色々できるのか、電力がなくて生活できるのか？山のようにある依存の一つにしか思えないが、、、

[koishi]

昔は良かった、とか、最近の若いモンは、とかの亜種って感じがしてしまうな。道具が発明されて以降、知能というものの評価軸が時代とともに変わるって話だと思うんだよな。

[pwobie]

新しいものに対しては、過剰な反対と賛成があるよね、ただそれだけの話。

[byaa0001]

今のところは、面倒な計算ごととかをAIに投げて、着想だけに執着できるからありがたいところだけど、そのうちそれも奪われるんかなぁ。社会問題の解決にAIが使えるレベルになったら、ようやく資本主義の終わりかな？

[coffeeglass]

銀河鉄道999に豊かな生活が保証されているために皆怠けものになって巨大デブになる惑星の回があるけど、リアル人類はAIのせいで皆バカになるんだな。

[kanibasami77]

AIに聞いても同じ結論だったぞｗ　そもそも「結果」なんてもんは時代と場所によって価値が変わるもの。したがって「考える過程」こそが大事なんだよ。そこをAIはごっそり奪うんだから良いわけねぇ

[salamann]

プロペラのエンジンもジェットエンジンもあまり変わらない様な気もする

[pbnc]

お久しぶりです。ま、人間は何に脳を使うようになるのか、ってとこですか。

[inks]

finalvent氏の生存を確認した。相変わらず達観して斜に構えた知的な書きぶりは変わって無い。では普通に考えたら不毛な戦争や紛争はAIが発達したら無くなるのか。そこには人間のエゴがあり、AI依存にならぬ理由がある。

[alaska4]

文字の発明によって人類の記憶力が衰えてしまう！……みたいな感じの話

[denimn]

消化器官は調理器具へ環境適用力は衣類へアウトソースしたように、生存能力のアウトソースが人類種の本質と考えれば人類の生態は個体だけではなく周辺技術まで拡張して捉えるべき。個体が悲劇が種の悲劇にはならない

[t1mvverr]

やりたい事だけやって楽しみたいからとりあえずaiは発展し続けて欲しい。そして実際楽しみ尽くした時にハリが無いなと感じて対策考えるよ

[h5dhn9k]

『知的活動』とされているモノが拡張されるだけな気はするのだが……。AIは生きて無いから欲求は無いし。記事の通り、現状の深層学習AIでは新発見は無いだろうし。最適化も凄いのだけど。

[blueboy]

「自動車の発達によって、人間の脚力は低下するだろう。だから、自動車の使用を禁止して、脚力の維持に努めるべきだ」というような、愚論。「人知と機械知の併用」による知力を使えば済む話。危険はＡＩよりスマホ。