研究人员推出了 Co-Design Bench,这是一个旨在评估编码代理在满足多模态用户应用程序修订请求方面能力的全新基准。该基准包含 273 个源自真实用户编码会话的任务,分为两个赛道:多模态编辑和仓库编辑。这些任务使用专家定义的验收标准,评估代理在基础理解、UI 转换和功能实现方面的能力。初步评估表明,即使是表现最好的模型也只能完全满足一小部分任务,这凸显了在代理编码中,部分需求满足与完全任务成功之间的差距。 AI
影响 该基准有望推动 AI 代理理解和执行用户复杂、多模态编码请求的能力的提升。
排序理由 该条目描述了一个用于评估 AI 模型的新学术基准。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →