ハルシネーション（事実誤認）より深刻なAIの「わかったふり」を暴く：MITなどが発見したLLMの“ポチョムキン理解”とは | Ledge.ai

Top > 学術＆研究 > ハルシネーション（事実誤認）より深刻なAIの「わかったふり」を暴く：MITなどが発見したLLMの“ポチョムキン理解”とは

[eagleyama]

そもそもフリをするだけの機械なのだが、理解とはなんなのだろ

[misshiki]

“これは、人間なら正答＝理解と認められる最小限の問いに合格しても、LLMが本質的に異なる誤解を抱いている可能性を示している。”

[kei_1010]

人間にも似たような云々とか言ってAIを擁護してるやつは、AIと人間を混同してる。全く違うものだと理解できてない。あとLRMでも無理よ。https://kei-1010.hatenablog.com/entry/2025/06/06/151012

[quwachy]

LLMは原理的に無理だからLRMが生まれた、o3でテストしないと無意味

[tanupig]

編集で40% の失敗率（potemkin rate）が確認された。これは、定義だけでは概念理解の深度を測れない可能性を示唆している。