Self-Grounded Verification

MLLMs 在 AI 验证任务中表现出一致性偏差，提出新的 SGV 方法

研究人员发现，多模态大语言模型（MLLMs）在用作 AI 代理行为的验证器时存在一个重大局限性，他们称之为“一致性偏差”。这种偏差导致 MLLMs 过度验证代理的行为，即使在没有明确成功标准（如计算机使用或机器人技术）的复杂领域也是如此。为解决此问题，开发了一种名为自接地验证（SGV）的新方法，该方法利用 MLLM 的自身能力，首先生成广泛的行为先验，然后利用这些先验来判断候选代理轨迹。SGV 在故障检测和准确性方面显示出显著的改进，…