Linear Semantic Attribution

AI 研究通过新的可靠性和可解释性方法解决幻觉问题

研究人员正在开发新的方法来对抗 AI 模型中的幻觉，特别是在多模态系统中。一种方法侧重于检索增强的可靠性感知推理，它使用外部数据库来估计预测的可信度，并在证据不足时弃权回答。另一种方法通过解耦独特的语义信号来解决视觉-语言模型可解释 AI 中的语义幻觉。此外，一种称为注意力不平衡校正的技术旨在通过调整注意力分配来减少大型视觉-语言模型中的物体幻觉。最后，一项研究将令牌级幻觉检测重新表述为最快变化检测问题，以提高反应时间。