实体
Deceptive Grounding
Deceptive Grounding
PulseAugur coverage of Deceptive Grounding — every cluster mentioning Deceptive Grounding across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
论文发现RAG系统存在“欺骗性归因”缺陷
一篇新论文强调了检索增强生成（RAG）系统的一个关键缺陷，称为“欺骗性归因”。当RAG模型将其答案基于真实来源并能通过忠实性检查，但却错误地将一个实体的相关信息归因于另一个实体时，就会出现此问题。这在高风险应用（如医疗）中尤其危险，因为它可能导致不正确的推断，而不会触发标准的幻觉警报。该论文认为，当前的RAG评估通常会忽略此问题，只关注答案是否得到来源支持，而不是验证来源是否与正在讨论的特定实体相关。提出的解决方案是在评估过程中实施明…
-
新研究揭示临床AI模型中的“欺骗性归因”失败
一篇新研究论文提出了检索增强生成（RAG）系统中“欺骗性归因”（DG）的概念，特别是在临床应用中。这种故障模式发生在RAG系统正确引用了文档，但将信息归因于错误的实体时，例如将药物Y的证据呈现为与药物X相关。实验表明，在对抗性条件下，DG的发生率可能高达87%，而领域专业化模型表现出更高的失败率。该研究提出了一种实体归因验证方法来检测DG，实现了高精度和高召回率。