研究人员推出了一种新颖的测试时训练框架TTSR,旨在增强大型语言模型(LLM)的推理能力。该自我演进系统遵循“先反思,后综合”的范式,模型在学生和教师角色之间交替。学生模型尝试解决问题并从其尝试中学习,而教师模型则分析失败并生成有针对性的变体问题以挑战学生的极限。TTSR还包含一个弱点记忆库,将持续存在的挑战汇编成策略笔记,指导未来的探索,并随着模型的改进而逐渐淡化。在数学推理基准上的实验表明,TTSR能够在测试时实现持续改进,并泛化到更广泛的推理任务。 AI
影响 这项研究可能带来更具适应性和更强大的LLM,它们可以在推理过程中提高其推理能力,而无需新的训练数据。
排序理由 学术论文,详细介绍了一种新的LLM测试时训练方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →