Confidence-Evidence Bayesian Gain

新研究通过微调和确定性方法解决大语言模型幻觉检测问题 · 跟踪3个来源

三篇新研究论文解决了大语言模型（LLM）中的幻觉检测挑战。其中一篇论文提出多样化微调，鼓励生成多样化内容，从而提高基于语义熵的检测效果。另一篇论文介绍了置信度-证据贝叶斯增益（CEBaG），这是一种用于医学视觉问答（VQA）的确定性方法，它在不进行随机采样的情况下分析 token 级别的置信度和视觉证据敏感性。第三篇论文提出了 RT4CHART，这是一个通过将答案分解为可验证的声明并执行分层验证来评估检索增强生成（RAG）中上下文忠实度的框架。