conservative political personas

LLM personas reorganize internal representations, impacting truthfulness and morality assessments

研究人员发现，大型语言模型（LLMs）在被提示采用特定视角（例如自由派或保守派政治观点）时，可以改变其内部表征。这种视角采纳系统性地改变了词语在语义轴上的投影方式以及这些轴的对齐方式，可能影响线性探针和稀疏自编码器等监控技术的可靠性。当应用于基于这些视角调整的模型时，评估真实性和道德标准的标准方法会产生不同且带有政治偏见的結果，这表明当前表征提取方法可能会受到基于视角的转变的损害。