研究人员推出了一种新颖的多智能体框架FaithEyes,旨在提高代理视觉语言模型(VLM)工具使用的忠实度。这些模型经常在与任务无关的工具调用方面遇到困难,导致尽管最终答案正确,但推理不准确。FaithEyes通过让VLM自身判断工具调用生成的每个过程图像的有用性来解决这个问题。这种判断被整合到推理上下文中,并用于调整工具奖励,从而减轻奖励攻击。该框架通过使用模型作为子智能体进行自我判断来确保训练-测试一致性,并在视觉感知和推理基准测试中展示了具有竞争力的准确性,同时显著提高了工具的忠实度。 AI
影响 通过确保工具使用与任务相关,增强了VLM中多模态推理的可靠性和可解释性。
排序理由 该集群包含一篇详细介绍用于提高AI模型性能的新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- CORE Recommender
- DagsHub
- FaithEyes
- Gotit.pub
- Hugging Face
- Litmaps
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →