研究人员推出了ViBench 2.0,这是一个旨在评估AI代理长周期软件构建能力的新基准测试。与专注于单个、完全指定的任务的现有基准测试不同,ViBench 2.0 通过连续的功能请求来评估整个产品的开发,模拟真实的用户交互。对九个模型的初步评估显示,通过测试计划与交付功能齐全的产品之间存在显著差距,没有开源模型能够完全交付产品。然而,进展迅速,一个模型家族在其三个版本中显示出成功率和成本的大幅提高。 AI
影响 为评估AI代理在复杂、长期的软件开发任务方面树立了新标准。
排序理由 该集群描述了一个用于评估AI代理在软件构建任务方面的基准测试,该测试发表在一篇学术论文中。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- Litmaps
- Replit
- ScienceCast
- scite Smart Citations
- ViBench 2.0
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →