研究人员推出ReuF2F,一个旨在评估AI编码代理在形式化本科研究问题上表现的新基准。该基准包含244个开放性问题,来源于不同数学子领域的本科生研究经历(REU),并使用Lean 4编程语言进行形式化验证。使用基于mini-SWE-agent构建的Leanimum-agent进行的初步评估显示,即使是表现最好的模型也只能解决约40%的问题,这表明AI在解决形式化开放研究挑战方面的能力仍有很大提升空间。 AI
影响 该基准有望推动AI在形式化推理和解决问题能力方面的进步,特别是在数学和科学研究领域。
排序理由 该集群描述了一篇介绍AI代理基准的新学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Docker
- Lean
- Lean 4 Programming Language
- Leanimum-agent
- mini-SWE-agent
- Research Experiences for Undergraduates
- ReuF2F
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →