一项名为GMA的新基准测试已被开发出来,用于评估通用移动AI助手在复杂真实场景中的表现。GMA包含七个应用程序和300个任务,涵盖四个难度级别,旨在比AndroidWorld和MobileWorld等现有基准测试捕捉到更多的多样性和复杂性。对八个前沿模型的评估显示,随着任务复杂性的增加,性能显著下降,表明当前的代理距离可靠满足用户需求还有很长的路要走。研究还强调,适当的工具设计,如上下文保留和显式状态跟踪,可以显著提高代理在要求苛刻的工作流上的性能,尽管有效性因基础模型而异。 AI
影响 强调需要更强大的AI代理来处理复杂的、真实的移动任务。
排序理由 该集群包含一篇介绍AI代理评估新基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →