研究人员推出了Cultivar,这是一个新的基准,旨在评估多语言翻译模型在数据污染和本地化鲁棒性方面的表现。与传统的从英语翻译的基准不同,Cultivar使用源对比方法,并结合了FLORES数据集的特定地区子集。这种方法可以检测数据污染,并评估模型在不同文化和地区语言变体中的表现。对32个开源模型的基准测试显示,专门的翻译模型鲁棒性较差,一些模型可能过度拟合FLORES数据集,并且模型在源自美国的内容上的表现通常优于其他地区。 AI
影响 该基准有望带来更鲁棒、更具文化意识的翻译模型,从而提高在不同语言社区中的表现。
排序理由 该集群描述了一个用于评估机器翻译模型的新学术基准。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →