一个名为SWE-Skills-Bench的新基准被开发出来,用于评估Agent技能在真实世界软件工程任务中的有效性。研究人员发现,这些技能中的大多数几乎没有益处,甚至有相当一部分会产生负面影响。该基准将98个公开技能与GitHub代码库和可执行验证器配对,结果显示,Agent技能常常导致模型覆盖明确指令或过于僵化地遵循模板,从而导致性能下降。 AI
影响 这项研究表明,目前将Agent技能注入LLM以用于软件工程的方法可能在很大程度上是无效的,甚至可能阻碍性能,这促使人们需要更强大的技能评估和开发。
排序理由 该集群包含一篇学术论文,详细介绍了用于评估软件工程中AI Agent技能的新基准。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →