Self Distillation Using Contrastive Evidence Policy Optimization
PulseAugur coverage of Self Distillation Using Contrastive Evidence Policy Optimization — every cluster mentioning Self Distillation Using Contrastive Evidence Policy Optimization across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
AI研究重新定义持续学习，超越记忆转向适应
近期研究论文探讨了AI模型中持续学习的复杂性，超越了简单的上下文管理，以解决随着世界变化而产生的模型能力根本性提升的问题。研究调查了模型如何适应新领域和漂移数据，其中一些方法在快速适应方面表现出色，但在未来任务上表现下降，而另一些方法则更稳定地积累知识，但难以处理过时的事实。一个突出的关键挑战是，当前的持续学习方法倾向于隐式地假设对未来数据的了解，而不是真正地无关，这导致需要新的方法来平衡保留和适应。
-
新的DRIFT框架提升LLM自我改进能力，创SOTA基准 · 追踪2个来源
研究人员开发了DRIFT，一个无需外部专家监督即可增强大型语言模型自我改进能力的新型框架。DRIFT采用难度路由和节律门控来管理模型的学习过程，将探索集中在关键的推理领域和问题级别进展上。在五个基准和三个模型规模上的评估表明，DRIFT的表现优于GRPO和SDPO等现有方法，取得了79.5%的新SOTA平均分数，并显著提高了ToolUse基准的准确性。
-
新研究挑战LLM的同策略自蒸馏，提出改进方法 · 跟踪10个来源
近期研究论文探讨了同策略自蒸馏（OPSD）在训练大型语言模型（LLMs）方面的局限性和潜在改进。研究表明，标准的OPSD可能导致死记硬背捷径并阻碍泛化能力，尤其是在长链推理任务中。Purified OPSD和DemoPSD等新框架旨在通过优化监督信号来解决这些问题，以防止过拟合并保留模型的推理能力。其他研究强调，虽然OPSD可以加速专业化，但它可能不足以支持持续学习，并且与其他强化学习方法相比，它可能表现出更强的遗忘效应。