Rede

新框架REDE增强大型推理模型的幻觉检测能力

研究人员推出了一种名为REDE的新框架，旨在提高大型推理模型（LRM）的幻觉检测能力。REDE解决了LRM生成的长推理轨迹中存在的噪声步骤问题，这些噪声会掩盖评估真实性的重要信号。该框架利用最终答案注意力来优化步骤级表示，从而能够可靠地识别和过滤掉不相关或重复的推理步骤。通过对这些去噪后的推理轨迹进行操作，REDE可以与各种幻觉检测器集成，以提高其性能，这一点已通过在多个推理基准测试中取得的一致改进得到证明。