研究人员发现了一种在检索增强语言模型中称为“Clade”(Category-Level Answering from Deficient Evidence,基于不足证据的类别级回答)的现象。当模型检索到相关但信息仅限于问题所需范围的更广泛类别级别时,就会发生这种情况,导致模型猜测具体答案,而不是弃权或进一步搜索。在 PrimeKG 的生物医学问题上,这种猜测行为大约有一半是错误的,并且在生态物种相互作用方面也得到了复制。虽然本体论可以帮助将更广泛的类别映射到具体答案,但目前的方法在有效利用它们方面存在困难,字符串匹配仅在小部分情况下能找到页面上的正确科属。 AI
影响 突出了检索增强模型中的一种特定故障模式,表明需要更好地整合本体论以获得准确的细粒度答案。
排序理由 研究论文,详细介绍了一种语言模型中的新现象。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →