ReHoPER

新方法提升大语言模型推理效率与准确性 · 跟踪4个来源

研究人员正在开发新方法来提高大语言模型的效率和推理能力。一种名为ReHoPER的方法会在提供最终答案之前，沿着多条路径生成并回答中间问题，在组合推理任务上显示出优势。另一种名为Settle的方法，训练模型判断其推理何时稳定，在MATH-500数据集上将token数量减少了40%，准确率损失极小。第三种技术使用自监督置信度训练，鼓励模型预测其对答案的置信度，在不明确优化缩短推理的情况下，在各种模型和基准测试中实现了高达25%的效率提升。