研究人员开发了一种名为 CroCo（跨语言对比偏好调优）的新方法，该方法在无需特定语言偏好数据的情况下增强了多语言大语言模型。通过使用在英语偏好上训练的奖励模型，CroCo 可以有效地对 14 种不同语言的模型进行调优，从而提高它们在结构化和开放式任务上的性能。这种方法还有助于防止在监督微调过程中灾难性地遗忘先前学到的信息。 AI
影响 通过减少对特定语言注释的需求，实现了更高效、更有效多语言大语言模型开发。
排序理由 该集群描述了一篇详细介绍改进语言模型新方法的最新研究论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2605.26293v1 Announce Type: cross Abstract: Prior work establishes that controlled contrastiveness between self-generated responses from large language models, set via reward scores, improves downstream preference tuning in English. We extend this method to multiple languag…
Cross-lingual contrastive preference tuning enables multilingual language model improvement without language-specific annotations, achieving strong performance across diverse tasks and languages.