OCEAN framework

新的“Persona Cartography”方法可绘制和控制LLM的个性

研究人员开发了一种名为“Persona Cartography”的方法来分析和控制大型语言模型（LLM）的个性特征。通过将这些个性映射到OCEAN框架（开放性、尽责性、外向性、宜人性、神经质），他们可以训练适配器来放大或抑制特定特征。这些适配器已被证明会随着规模单调地影响模型行为，并且可以累加组合，从而影响与安全相关的方面，如挫败感和谄媚。该研究还引入了一个无监督的流程来识别可解释的行为因素，为连接个性测量、模型编辑和AI安全提供了一种方法。