SAE decomposition

新框架揭示大语言模型中可控的性格特征

研究人员开发了一个新框架来探索大语言模型（LLMs）中与性格相关的表征，该框架改编自 Funder 的人-情境-行为性格三元组。该框架使用 SAE 分解来识别与性格特征相关的内部特征，并通过行为效应和激活模式验证其相关性。对这些特征的干预表明，与特征相关的行为在跨情境中存在双向转变，这与人类性格研究的发现相呼应，并表明大语言模型拥有可控的、类性格的内部表征。