drug Y

新研究揭示临床AI模型中的“欺骗性归因”失败

一篇新研究论文提出了检索增强生成（RAG）系统中“欺骗性归因”（DG）的概念，特别是在临床应用中。这种故障模式发生在RAG系统正确引用了文档，但将信息归因于错误的实体时，例如将药物Y的证据呈现为与药物X相关。实验表明，在对抗性条件下，DG的发生率可能高达87%，而领域专业化模型表现出更高的失败率。该研究提出了一种实体归因验证方法来检测DG，实现了高精度和高召回率。