Yihao Xue

新研究通过先进的检测方法解决 LLM 和 VLM 幻觉问题

研究人员正在开发新的方法来对抗大型语言模型 (LLM) 和视觉语言模型 (VLM) 中的幻觉。一种名为“不确定时验证”的方法，通过跨模型一致性检查来提高幻觉检测的准确性，同时降低计算成本。另一种方法 CORTEX，通过比较检索文档的有无对内部模型表示的差异，专注于检索增强生成 (RAG) 中的 token 级检测。对于 VLM，ViPSy 和 Context-aware Attention Intervention (CAI) 等技术…