研究人员推出BLiMPPI,一个旨在评估语言模型对否定极性项(NPIs)理解能力的多语言新基准测试。该套件包含33种语言的12,000多个最小对,通过识别Universal Dependencies树库中的NPIs并对其进行扰动来构建。对12个多语言模型和2个单语模型的评估显示,在低资源语言中性能会下降,并且当NPIs无法通过n-gram分析解决时性能也会下降。 AI
影响 该基准测试可以揭示多语言LLM对细微语言现象理解的局限性,可能指导未来模型开发以实现更好的跨语言理解。
排序理由 该集群描述了一篇介绍用于评估语言模型基准测试的新学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →