编码代理通常不是在最初的任务理解阶段失败，而是在执行阶段失败，它们会犯下细微的错误，这些错误会级联导致最终输出不正确。当前的训练和评估方法，如SWE-bench，侧重于最终结果（通过/失败），而忽略了过程轨迹，错过了关于代理何时何地偏离正确路径以及为何偏离的关键信息。为了提高代理的可靠性，未来的训练应纳入详细的失败点分步注释，并通过提供包含错误检测、诊断和纠正的数据来明确教授代理恢复机制。 AI
影响 强调了当前AI代理开发中的一个关键差距，表明关注错误恢复和详细的失败分析是从演示走向产品的关键。
排序理由 该条目讨论了编码代理的一种常见失败模式，并提出了对训练和评估的改进建议，这是对现有技术的分析性评论。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →