引入了两个新基准 FeatureArc 和 FeatureLoop,用于评估编码代理在处理不断变化的软件功能和需求方面的能力。FeatureArc 包含 73 个任务,发现代理在初始请求上表现成功,但在功能后期阶段进行测试时,成功率会显著下降,继承的缺陷是一个常见问题。FeatureLoop 包含 61 个任务,显示即使是表现最好的模型也难以在几次纠正性修订中从错误中恢复,这凸显了在可靠、低干预开发方面面临的挑战。这两个基准都强调了当前编码代理在没有人为监督的情况下,在多个开发阶段保持正确性和功能性的难度。 AI
影响 这些基准突显了当前 AI 编码代理在处理迭代开发和不断变化的需求方面存在重大局限性,表明需要进一步研究以保持代码的长期正确性。
排序理由 两篇学术论文介绍了用于评估 AI 编码代理的新基准。
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- coding agents
- Connected Papers
- CORE Recommender
- DagsHub
- FeatureArc
- FeatureLoop
- Gotit.pub
- Hugging Face
- Hunyuan Model
- Litmaps
- ScienceCast
- scite Smart Citations
- Tencent
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →