研究人员开发了一种名为随机回溯的新方法,以提高语言模型在测试时扩展的效率。该技术允许模型重新访问先前生成的状体,而不是仅仅扩展当前解决方案的前沿。通过采用子池选择和结合序列蒙特卡洛方法的增强回溯,该方法旨在提高准确性,同时减少推理过程中生成的总令牌数。在数学推理基准上的实验表明,与现有方法相比,每令牌的准确性有所提高。 AI
影响 提高了语言模型推理的效率,有望以更低的计算成本带来更强大的AI系统。
排序理由 详细介绍一种改进语言模型推理新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →