はじめてのにき(2023-03-26)

_ LLM に思ったこと しばらくバブルが続きそうで、労働者としては何より。個人の興味的には AI バブルは終わって別のバブルが起きて欲しかった。残りはポエム的な話 NMT を見て、「あ、これは面白そう」と思ってチーム移って、ニューラル翻訳について思ったのは https://twitter.com/shinh/status/797982306564587521 にあるように、「マンガに出てくるような学位とか取ってる系の7歳くらいの子。活字中毒でなんでもよく知ってるけど、発言に困ると「ニュースぽいから【ロイター】てつけちゃえ」みたいな知ったかぶりをはじめる」だった。データ量やモデルが良くなったのはあるけど、この認識は LLM に至ってもあまり変わっていない。いやまぁこれだけのことができるようになるんだなぁ……という感嘆はもちろんあるし、 ChatGPT 普通に使ったりしているけど 結局、論理

[hinonono]

確率的に実用上は解けぬ扱いのUUIDや暗号、チューリングマシンによる数学の計算不能の存在、その前提にある無限時間と記憶領域とその非実在が計算機の本質的な弱みに、など一皮めくれば確率的と証明不能でドロドロよ

[sato-gc]

わかる。自分は「現世代の帰納的な AI を論理で補強する」は実現可能な範囲と考えてるけどそんな簡単な話じゃないのかな。

[kazuya030]

物理学経験者的な印象を受ける

[Ho-oTo]

めっちゃわかる。しかし個人的には、自然科学っぽい方法論ではあるけどやってる事は完全に工学というミスマッチに中々適応できない感じがある。/そういえばshinhさんって理物出身なんだっけ

[shunkeen]

自然科学というか熱力学にも公理的に書かれた本（田崎本、清水本）があるらしいし、そのうちAIについてもそう言う体系が、情報幾何とか、何か出てくるのかなと思ったりする。

[omega314]

もっと数学ができるようにはなるのか。

[Windymelt]

人間が論理的でそのほうが正しい、というのがウソで、「これは論理的だなあ」と感じる回路のみが人間の脳にあり、あとはぜんぶ確率なのではないか、つまりAIがどんなに進化しようが、信じる人間の問題と思っている

[mohritaroh]

“「AI が何故こんなに賢いのか？」を人間が考えないといけないというのは、まさに自然科学ぽい”

[uunfo]

モデル化して演繹は工学かな。確実に正しいものを積むのは証明する段であって、思いつく時は違うのでは。step-by-stepで精度が上がるのが論理の獲得というのはたしかに

[spark7]

今までがカッチリしすぎてたので、こっちの方が面白いけどな。「全知全能感が計算科学の魅力のひとつだったのだけど、自然科学ぽくなってしまうんだなぁ」

[napsucks]

ただの言葉遊びでここまで人間らしいものが出来上がるとは正直思いもしなかった。

[zu2]

“「マンガに出てくるような学位とか取ってる系の7歳くらいの子。活字中毒でなんでもよく知ってるけど、発言に困ると「ニュースぽいから【ロイター】てつけちゃえ」みたいな知ったかぶりをはじめる」だった”

[maketexlsr]

うんうん。/なんか自分も久々に日記書こうかなと思った。

[schoollife]

帰納的は確かにそうかも。なんとなく言っていることに新しさを感じるのは、問いかけたことに対してアナロジーを使って他のジャンルの既存の知識を引っ張ってきてくれるからなのかな。

[gfx]

（LLMは）"「確実に正しいものを積んでいって非自明なものを生む」というプロセスの不在が気にいらない"