goldfish

新研究探索跨语言大模型对齐及缓解对齐税 · 追踪4个来源

研究人员正在探索跨不同语言对齐大语言模型（LLMs）的新方法，并缓解性能下降。一项研究调查了单语模型是否可以在没有联合训练的情况下开发通用表征，发现对齐可以从语言结构本身中涌现。另一篇论文介绍了BALIGN，一种通过过滤导致灾难性遗忘的偏好数据来减少“对齐税”的数据选择策略。第三种方法，跨语言排序偏好优化（CRPO），利用英语偏好数据通过优化内部和跨语言偏好来提高其他语言的对齐效果。