研究人员开发了SDUs DAISY,一个旨在评估大型语言模型对丹麦文化遗产理解能力的新基准测试。该基准测试源自2006年丹麦文化名录和维基百科,包含741个经过人工验证的问答对,涵盖了广泛的文化制品。初步测试显示,包括Llama-3.3-70B和GPT-OSS-120B在内的当前模型表现不佳,表明该基准测试的挑战性。数据集和评估工具可在Hugging Face Datasets上公开获取。 AI
影响 凸显了当前大型语言模型在文化知识和推理能力方面的局限性,可能指导未来模型的发展。
排序理由 该项目是一篇介绍用于评估大型语言模型的新基准测试的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- 20b
- Daisy
- Danish Culture Canon 2006
- gemma3:27b
- GPT-OSS 120B
- Hugging Face Datasets
- Jacob Nielsen
- Llama 3.3 70B Instruct
- Mistral-3.1-24B
- schneiderkamplab
- SDUs DAISY
- Wikipedia
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →