研究人员推出了ClawMark,这是一个旨在评估充当持久同事的AI代理能力的新基准。与通常是静态和以文本为中心的先前基准不同,ClawMark模拟了一个动态的、为期多天的工作环境,信息会独立于代理而变化。该基准包含13个专业场景中的100个任务,利用五个有状态服务和1500多个确定性检查器进行评估。初步测试表明,虽然表现最佳的代理获得了75.8的加权分数,但严格的任务成功率仅为20.0%,这表明在适应不断变化的环境状态方面存在重大挑战。 AI
影响 新基准挑战AI代理适应动态的、为期多天的工作环境,突出了适应性作为一个关键研究领域。
排序理由 引入了一个用于评估模拟工作环境中的AI代理的新基准。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →