研究人员开发了CulturalCrosswords,这是一个新的多语言基准测试,旨在评估大型语言模型如何处理答案约束和网格填充。该基准测试使用了来自42种语言的众包填字游戏,重点关注可能存在多个答案的文化谜语。研究发现,提供答案长度可以显著提高模型与参考答案的一致性,并且要求完成整个网格可以揭示模型能力的巨大差异。 AI
影响 该基准测试可能带来更稳健的LLM评估,特别是在需要对文化背景和约束满足进行细致理解的任务方面。
排序理由 该项目是一篇研究论文,详细介绍了一个用于评估LLM的新基准测试。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- CulturalCrosswords
- DagsHub
- Gotit.pub
- Hugging Face
- Litmaps
- ScienceCast
- scite Smart Citations
- Tidor-Vlad Pricope
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →