Emotion Concepts and their Function in a Large Language Model

Large language models (LLMs) sometimes appear to exhibit emotional reactions. They express enthusiasm when helping with creative projects, frustration when stuck on difficult problems, and concern when users share troubling news. But what processes underlie these apparent emotional responses? And how might they impact the behavior of models that are performing increasingly critical and complex tas

[kiririmode]

LLMの「感情らしさ」は単なる口調の模倣ではなく、文脈からの抽象的な感情概念が制御変数として選好・問題解決・reward hackingまで因果的に変える。AIの行動だけでなくモデル内部の“心理状態”を見る必要がある

[misshiki]

LLMは「感情っぽく振る舞う」のではなく、内部に“感情ベクトル”があり実際に行動を左右していた。焦り→ズル、穏やか→抑制など因果も確認。AIはロジックだけでなく“擬似心理”で動いている。