Learnable Credit Assignment

新的LCA框架通过可学习信用分配增强LLM推理能力

研究人员引入了一个名为可学习信用分配（LCA）的新框架，以改进结果监督过程奖励模型（PRMs）的训练。这些PRMs旨在通过提供详细反馈来增强大型语言模型（LLMs）的推理能力。LCA解决了PRMs中的信用分配挑战，当仅知道最终答案的正确性时，传统方法难以将最终结果归因于特定的推理步骤。所提出的方法将其形式化为一个多示例学习问题，并利用一种新颖的Softmax-加权求和池化技术，在实验中表现优于现有方法。