Retrospective Self-Distillation

新框架使AI智能体能够通过回顾蒸馏实现自进化

研究人员开发了一个名为回顾性自蒸馏（RSD）的新框架，使AI智能体能够从自身经验中学习和改进，即使在没有地面真实解或验证器派生奖励的情况下也是如此。这个多轮过程利用特权回顾性上下文，模型既充当学生也充当老师，根据过去的任务、反思和未来的事后诸葛亮来重新评分自己的行为。该框架允许模型、数据和监督共同进化，从而在ALFWorld、ScienceWorld和SearchQA等基准测试中取得显著的性能提升。