一个名为SWE-Shift的新基准已被开发出来,用于评估编码代理在软件开发环境中处理执行中更改的能力。该基准包含12个更改家族的120个场景,测试代理完成任务、保留现有工作和适应更新的能力。对17个编码代理的初步评估显示,与未更改的环境相比,所有系统在执行中更改的任务上的表现都明显更差,GPT-6 Astra的成功率从67.35%下降到24.79%。 AI
影响 突出了当前编码代理能力的一个关键差距,可能推动开发更强大、更适应性强的人工智能软件开发助手。
排序理由 介绍用于评估AI编码代理新基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →