NAME-Bench

新研究通过先进的检测方法解决LLM幻觉问题 · 追踪5个来源

研究人员正在开发新的方法来检测和减轻大型语言模型（LLM）中的幻觉。一种方法，跨层注意力探测（CLAP），处理LLM在其整个残差流中的激活，以改进细粒度的幻觉检测。另一项研究侧重于视觉语言模型的模态幻觉检测，与基线相比，错误率显著降低。此外，一个用于Bengali幻觉检测的系统结合了检索和程序执行，而另一篇论文通过区分仅仅提及和断言性声明来重新评估对象幻觉检测。