シンギュラリティは起こらない。起こるとしたら、それはＡＩが人間の知能を超える瞬間ではなく、人間が因果知で世界をとらえるのをあきらめる瞬間だ - orangestarの雑記

シンギュラリティは起こらない。起こるとしたら、それはＡＩが人間の知能を超える瞬間ではなく、人間が因果知で世界をとらえるのをあきらめる瞬間だ と、いうのを考えているが説明が長くなるし難しい 以下、自分にだけわかる箇条書き LLMの認識する『世界』について/圧力知 LLMは因果知ではなく圧力知で世界を認識している 圧力知とは「地球外少年少女」に出てきた言葉で、因果推論で未来や空白を予測するのではなく、周りの状況からそれがある『確率が高いもの』を選んで答えとする知識。粘菌が迷路を解くのに似ている。 実際のところ世界や未来は因果知ではなくて、圧力知でとらえるほうが正確にとらえられる。 なぜならば『微細な個別の現象』同士では因果があるが、世界はあまりにも複雑にできており、要素が大きすぎてすべての因果を認識することは不可能。また、『微細な個別の現象』同士『ゆらぐ』ので、因果ですべてをとらえるのは不可能

[Lhankor_Mhy]

どうだろう？　たしかにAIの知性は複雑性の彼方にあるだろうけれど、それを言えば人間の脳だって複雑性の彼方にありヒューリスティックスを用いる。はたしてクオリアは存在するのか。皇帝の新しい心は何処か。

[worris]

AIが排外主義者になってしまうので制御（因果知）を入れる処理は今でもやってるんだっけ。AI（圧力知）にトロッコ問題や囚人のジレンマを解かせる実験くらいは既にあるよね。

[anmin7]

新城カズマ先生のサマー/タイム/トラベラーにA Iではないんだけど似たような話があったなあ。