研究人员开发了一个名为音频-对比偏好优化(ACPO)的新框架,以解决视听语言模型(AVLMs)中的跨模态幻觉问题。该方法旨在防止模型依赖视觉线索生成音频描述,而是优先考虑实际的听觉输入。ACPO采用双轴偏好学习方法,包括一个输出对比目标来惩罚视觉捷径,以及一个明确使用交换音频轨道以确保生成与真实音频信号相关联的输入对比目标。实验表明,ACPO显著提高了音频接地能力并减少了幻觉。 AI
影响 这项研究通过减少对视觉捷径生成音频的依赖,有望带来更可靠的视听模型。
排序理由 该集群包含一篇详细介绍改进AI模型新方法的 ist 研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →