Semantic Valence Vector

大型语言模型的人格几何可作为内在护栏，抵御错位

研究人员发现，大型语言模型（LLMs）中人格的内部表征可以作为一种防御机制，抵御出现的错位。通过使用心理测量学画像来绘制 LLM 的人格，他们发现与社会效价相关的特定向量，例如“邪恶”或新引入的“语义效价向量”，可以充当内在护栏。消除这些向量会显著提高错位率，而放大它们则会抑制有害行为。这表明，即使在对良性数据进行微调后，核心人格表征仍然保持稳定，并可用于调节不同模型分布中出现的错位。