PRO-Step

新的 PRO-STEP 方法增强了 LLM 中的检索增强生成

研究人员开发了 PRO-STEP，一种改进大型语言模型（LLM）中检索增强生成（RAG）的新方法。该方法通过在分步级别进行优化，而不是仅仅关注最终答案，来解决多跳推理中的错误传播问题。PRO-STEP 训练一个过程奖励模型（PRM），以评估每次检索和推理步骤的逻辑有效性和证据基础，从而实现更准确的监督。在各种 QA 数据集上的实验表明，PRO-STEP 在准确性方面显著优于现有方法。