新流程解决视频-LLM问答中的幻觉引用问题

研究人员开发了一个自验证流程，以解决由视觉语言模型驱动的视频问答系统中出现的幻觉引用问题。这些系统经常自信地提出时间戳声明，但这些声明并未得到所引用帧的支持，从而误导用户。提出的流程包括一个初始的检索增强语言模型，该模型起草带有时间戳引用的答案，然后独立地重新检查每个引用的帧。实验表明，直接要求视觉模型验证声明由于“谄媚”效应而无效，而一个小型自然语言推理模型被证明是一个稳定且可解释的验证器，在对抗性场景中成功识别了79%的虚假声明，同时没有错误标记真实声明。 AI

影响 这项研究通过减少视频问答中虚假信息的发生率，有望带来更值得信赖的AI系统。

排序理由 该集群包含一篇学术论文，详细介绍了一种提高AI模型准确性的新方法。

在 arXiv cs.AI 阅读 →

• Apple Silicon
• CUDA
• Google Colab
• Hugging Face Transformers
• natural language inference model
• retrieval-augmented language model
• Video-LLM Question Answering
• vision-language models

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →