开发了一个名为MDU的新基准,用于评估视觉语言模型(VLM)的多语言文档理解能力。该基准包含23,146个示例,涵盖13项任务和五种语言:英语、法语、德语、意大利语和西班牙语。在评估45个最先进的开放权重VLM时,该基准显示性能并非随模型大小一致提升,有时较小的模型表现优于较大的模型。此外,语言性能和特定任务的能力并非同步扩展,这表明转录技能可能与语义提取相权衡。 AI
影响 强调了当前视觉语言模型在多语言文档理解方面的局限性,并指出了未来发展的方向。
排序理由 该集群包含一篇介绍新AI模型评估基准的研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →