研究人员推出了SciValidityBench,这是一个旨在评估AI代理记忆在科学使用中的有效性的新基准。该基准超越了简单的检索,侧重于代理是否能够根据控制状态确定记忆中的事实是否有资格影响决策。SciValidityBench包含跨越不同科学领域的64个TaskSpecs,利用一个名为SciStateForge的框架将实验历史编译成明确的决策控制状态。对四个模型系列的测试表明,与通用的事件图相比,纳入这种编译的科学状态将有效决策提高了9.2-18.8个百分点,突显了状态解释而非仅仅事实检索的重要性。 AI
影响 该基准可以通过评估AI代理解释上下文而非仅仅回忆事实的能力,从而促使开发出能够做出科学合理决策的更强大的AI代理。
排序理由 学术论文介绍AI代理记忆的新基准。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →