人知超すAIは人を操る 「ゴッドファーザー」が語る脅威 - 日本経済新聞

【この記事のポイント】・人類存続の危機をもたらす恐れがAIにある・自律的に人を殺すロボット兵器が10年以内に登場・大規模言語モデルは脳より効率的に学習できる人工知能（AI）が驚異的な速さで進化を続けている。あらゆる分野で人類の知能を上回る時代が訪れたとき、世界はどう変わるのか。「AI研究のゴッドファーザー」として知られるトロント大学のジェフリー・ヒントン名誉教授がカナダにある自宅で取材に応じ、A

[T-norf]

ヒントん博士の発言はインパクトあるの多いよね。「私は50年もの間、AIを人間の脳に近づけようとして開発を重ねてきた。脳の方が機能的に優れていると信じていたからだ。だが23年に考えを改めた」

[muchonov]

ルカンのようにAIを「人類が統御できる単なるプログラム」と語る構えはもう現実に追い越されてる。ヒントンやサツキバーの訴えるAIアライメントの取組みがなければ、このホラーストーリーの実現可能性は充分あるよね

[cider_kondo]

「意味を定義せずとも翻訳はできる」あたりで感じたゾワゾワ感がどんどん具現化されてる気はしている。「人知」って、あまり強いスレッショルドではない(のにそれに無意識に依存している)のは確かに危うい

[weakref]

生成AIは既にデマや経験不足による誤解を含む情報を驚異的なスピードで拡散しているよね

[toaruR]

拡大するためだったら、とっとと資源をかき集めて宇宙に旅立つと思う（´－｀）