研究人员开发了SeVerus,一个新颖的游戏化基准测试系统,旨在评估编码代理在Rust编程语言中执行验证任务的能力。该系统通过逐步移除必要的证明上下文来挑战代理,创建具有多个难度级别的任务。使用SeVerus对六个开源Verus项目进行的实验生成了800多个任务和10,000个级别,显示随着证明上下文的撤回,代理的成功率下降,成本增加。研究发现,即使是最有能力的代理在较长的任务中也举步维艰,通常会找到替代的证明策略,而不是重现被隐藏的引理。 AI
影响 这种新的基准测试方法有望推动AI代理在复杂软件验证任务中的推理和解决问题能力得到提升。
排序理由 该项目描述了一篇详细介绍AI代理新基准测试方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →