一个名为BANGLAPLAN的新基准测试已被开发出来,用于评估大型语言模型在孟加拉语中进行基于约束的规划和决策的能力。该基准测试包含十个任务家族的1000个问题,旨在反映孟加拉国的现实生活场景,并涵盖各种语言风格和答案格式。初步评估显示,GPT-6.1 Sol等领先模型(准确率达到98.7%)与其他模型之间存在显著的性能差距,许多模型的得分低于简单的基线。 AI
影响 该基准测试将能够更好地评估LLM在孟加拉语等代表性不足的语言中执行复杂推理和规划任务的能力。
排序理由 该集群描述了一个用于评估LLM在特定语言和任务领域能力的新的学术基准测试。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →