chatGPTのだめなところ

田口善弘＠発言は私の個人としての見解であり中央大学やその機関の意見を代表するものではありません @Yh_Taguchi 英語でも訊いてみました。「入学時の自己紹介はＳOS団の団長」となっていますが、SOS団が作中で作られるのは作中の時系列中で入学からかなり時間が経ってからですね。時系列の誤認識は従来の機械学習でもよくありましたが #ChatGPT pic.twitter.com/8zJrK4mGWq

[cartman0]

結局学習データが正しいかつ正しく解釈されてそれが出力されるが保証されないと無理やな

[mysql8]

ファクトチェックが機能しない最大の理由

[usuzumineko]

デマ作成機にも使える（こりゃ悪い）人力のWikiでも起きることやんけと言われても検証コストが膨大になるねぇ。

[urandom]

ヒトの認知の仕組みだと理解していないことを理解していないと気づくのは（感情的な部分を別にすれば）簡単だけど、現状の統計的なアプローチでは「理解」にあたるプロセスを省略しているので困難。根の深い問題。

[junjuns7]

しりとりをしようとしたら、りんごの次はぐりんと続けますという何もかもだめなルール説明をしてきたので教え直したら、末尾が「ん」のものしか思いつかないので終了しますと言い出した。しりとりって難しいのね。

[rAdio]

根拠ある「情報」を調査して提示するのではなく、現実に存在する数多のデータから虚実問わずに学習した結果としての「物語」を紡ぎ出しているという印象。でも、「正解」の確率がままあるから、逆に危うさを感じる。

[misshiki]

知らないことを適当に言う。

[Imamura]

ここでのとんちんかんな回答は、全部考えてから出力を始めるのではなく、自分が言い始めた内容から連想したことをつないでいくような流れがある。人工無能的な感じ

[kei_1010]

原子力発電の燃料に炭素-14が使える。炭素-14のコストは2〜3ドル/kg と主張してきた。 チューリングテストもどきもやってみた https://kei-1010.hatenablog.com/entry/2022/12/04/085505

[programmablekinoko]

人間の思考を正確にトレースする必要があるので言語が一番むずかしいのだろうな。画像とかはちょっとしたノイズが味になるけど言語の場合途端支離滅裂になる

[augsUK]

Deeplは自然な日本語で明確な誤訳や一文丸々抜かしをやるけど、GPTレベルに学習させて複雑なネットワークでも、自信満々の間違いは起こるのか