研究人员开发了Evidence-RL (CED)，一种新颖的训练时审计方法，用于视觉语言模型 (VLMs)，旨在确保答案基于特定的图像证据，而不是依赖语言先验或无关的上下文。CED通过中和以物体为中心的证据区域并比较对答案正确性的影响来工作。当与GRPO结合时，该方法会奖励那些因果依赖于支持证据的正确答案。在多个基准测试和模型骨干上，CED的性能优于以前基于强化学习的训练后方法。 AI
影响 通过确保AI系统依赖实际图像证据，该方法有望带来更可靠、更值得信赖的视觉推理能力。
排序理由 该集群描述了在arXiv上发表的一篇学术论文中提出的一种新方法。
在 Hugging Face Daily Papers 阅读 →
- Counterfactual Evidence Disentanglement
- Grpo
- Hugging Face
- vision-language model
- arXiv
- Evidence Region
- Evidence-RL
- reinforcement learning
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
