推出了两个新基准 CompMat-Bench 和 MatToolBench,用于评估人工智能代理在计算材料科学中的能力。CompMat-Bench 侧重于代理通过准备模拟的输入和分析输出来完成科学目标的步骤,代理在单一任务上表现出中等成功率,但在更长的工作流或减少指导的情况下遇到困难。另一方面,MatToolBench 在专业科学软件上测试多模态代理,包括 GUI 操作和脚本编写,揭示了通用基准性能与真实科学工作流之间存在显著差距,即使是顶级模型也只达到较低的成功率。 AI
影响 这些基准突显了人工智能代理在专业科学软件和工作流中面临的挑战,表明需要进行领域特定的培训和评估。
排序理由 两篇不同的研究论文介绍了用于评估人工智能代理在科学领域表现的新基准。
- AI agents
- arXiv
- CompMat-Bench
- Computational Materials Science
- MatToolBench
- OriginPro 9.1: Scientific Data Analysis and Graphing Software—Software Review
- Windows 11
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →