CRATE-S

新的CRATE框架通过步级推理增强移动代理评估

研究人员开发了CRATE，一个用于评估语言引导的移动代理的新两阶段框架。该框架使用视觉语言模型（VLM）作为裁判，以步级方式处理轨迹，以推理后果和状态变化，而不是一次性处理整个轨迹。CRATE关注任务完成和操作安全，并有一个名为CRATE-S的扩展，专门用于安全评估。实验表明，CRATE在任务完成基准测试中取得了高精度，优于现有方法，而CRATE-S在安全基准测试中表现出高度一致性。