研究人员推出了一款名为 AndroidFlux 的新基准测试,旨在评估移动多模态代理的故障恢复能力。与专注于从干净状态开始的任务成功率的传统评估不同,AndroidFlux 专门测试代理从中间错误和意外状态中恢复的能力。该基准测试建立在 AndroidWorld 之上,将记录的轨迹恢复到受控的检查点,从而可以从相同的设备状态一致地测试不同的代理。一个补充的奖励建模基准测试根据下游结果评估恢复操作的偏好,并且还发布了一个离线强化学习数据集,以提高错误恢复和整体任务成功率。 AI
影响 该基准测试有望带来更强大、更可靠的移动 AI 代理,能够处理现实世界中的错误。
排序理由 该集群包含一篇详细介绍用于评估 AI 代理的新基准测试和数据集的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- AndroidFlux
- AndroidWorld
- graphical user interface
- Offline Reinforcement Learning
- reinforcement learning
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →