evil persona vector

邪恶身份向量在大型语言模型中表现出不对称的跨语言迁移

研究人员调查了大型语言模型（LLMs）中“邪恶身份向量”在不同语言之间的可迁移性。他们的研究涉及英语、西班牙语、斯瓦希里语和泰卢固语，发现这些用于控制模型行为和理解漏洞的向量具有方向不对称性。从英语和西班牙语等高资源语言中提取的向量能够有效地引导低资源语言的行为，而从低资源语言中提取的向量则不太可靠且可迁移性较差。这表明存在一个共享的跨语言“邪恶方向”，可以利用高资源语言来影响低资源语言的行为，而无需大量的每种语言数据。