一项名为MBABench-2.0的新基准已被推出,用于评估AI代理从头开始构建金融电子表格的能力。该基准包含101项任务,其中最复杂的任务估计需要经验丰富的人工建模师花费30多小时。与更简单的基准不同,MBABench-2.0根据12个类别中的129个标准评估电子表格,侧重于可读性和可维护性等质量方面,而不仅仅是准确性。对8个模型中超过20个代理进行的初步评估显示,当前AI能力存在显著差距,表现最好的代理仅达到16%的通过率。 AI
影响 凸显了AI代理在复杂知识工作能力方面存在的关键差距,表明当前模型尚未准备好进行复杂的金融建模任务。
排序理由 该项目描述了一个用于评估AI代理的新学术基准。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- DagsHub
- Gotit.pub
- Hugging Face
- Litmaps
- MBABench-2.0
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →