研究人员推出了SaaS-Bench,这是一个旨在评估计算机使用代理(CUA)在现实专业工作流程中的新基准。该基准跨越六个领域,使用了23个软件即服务(SaaS)系统,包含106项需要长周期执行的任务,这些任务可以是纯文本或多模态的。初步实验显示,目前基于LLM的代理表现不佳,端到端完成的任务不到4%,这凸显了在规划、状态跟踪和跨应用程序上下文维护方面存在的重大局限性。 AI
影响 强调了当前AI代理在专业工作流程中的局限性,表明在实际应用中需要改进规划和上下文管理。
排序理由 该集群包含一篇介绍AI代理评估新基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →