INTRYGUE

新的 INTRYGUE 方法改进了 RAG 不确定性估计

研究人员开发了一种名为 INTRYGUE 的新方法，以改进检索增强生成（RAG）系统中的不确定性估计。标准的基于熵的方法在 RAG 中常常失效，因为存在一种悖论：有助于使响应更可靠的诱导头（induction heads）也会膨胀预测熵，从而发出错误的信号表明不确定性。INTRYGUE 通过根据诱导头激活模式对预测熵进行门控来解决这个问题。在六个开源 LLM 和四个 RAG 基准测试上进行测试，INTRYGUE 的表现持续与现有不确定…