InnerExpert

新研究通过新颖的检测方法解决LLM和VLM的幻觉问题 · 已追踪7个来源

研究人员正在开发新的方法来对抗大型语言模型（LLM）和视觉语言模型（VLM）中的幻觉。一种名为InnerExpert的方法，利用来自混合专家（MoE）架构的内部信号进行每令牌幻觉检测。另一个系统AutoResearch，旨在通过整合创意生成与可靠的实验来为自主研究奠定基础。其他方法侧重于通过将输出与输入证据对齐或跨模型层聚合真实性信号来检测幻觉跨度。对于医学VLM，一个名为CAST的框架在推理过程中使用反事实解剖学指导进行无标注幻觉缓解。