PulseAugur
中
实时 13:51:44
实体 Self Distillation Using Contrastive Evidence Policy Optimization

Self Distillation Using Contrastive Evidence Policy Optimization

PulseAugur coverage of Self Distillation Using Contrastive Evidence Policy Optimization — every cluster mentioning Self Distillation Using Contrastive Evidence Policy Optimization across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
4
90 天内 7
发布 · 30天
0
90 天内 0
论文 · 30天
4
90 天内 7
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 7 条
  1. RESEARCH · CL_332876 ·

    新的蒸馏方法增强大型语言模型推理和图像生成能力

    研究人员正在开发先进的在线策略蒸馏(OPD)技术,以提高语言模型的性能,特别是在数学推理和文本到图像生成等领域。新的方法,如 Student-Delta On-Policy Distillation (SD-OPD) 和 Student-Prefix Teacher Adaptation (SPTA),旨在通过调整教师的反馈或查询的状态来优化教师指导学生的方式。其他方法,如 StepX-OPD 将能力巩固和几步采样结合用于扩散模型,而…

  2. TOOL · CL_323951 ·

    新FSPO框架提升LLM推理和工具使用准确性

    研究人员推出了一种新颖的框架——函数空间策略优化(FSPO),旨在提高语言模型的推理和工具使用准确性。FSPO整合了时间巩固和特权适应,减少了内存需求并优于现有方法。该框架将历史的下一个token分布存储为固定目标,实现了时间分离,无需持久的教师模型。这种方法在推理和工具使用基准测试中表现出卓越的性能,在有限的训练预算内实现了更高的准确性,并降低了峰值内存使用量。

  3. TOOL · CL_289251 ·

    新的SELF框架通过环境反馈增强语言代理训练

    研究人员引入了一个名为SELF(SELF-distilLation with environmental Feedback modeling)的新框架,用于改进在缺乏直接奖励的交互式环境中训练的语言代理。该框架联合优化环境反馈建模和事后自我蒸馏,使代理能够在从条件化反馈的自我教师那里学习的同时,预测环境响应。实验表明,SELF在tau-Bench和AppWorld等基准测试中优于SDPO和GRPO等现有方法,通过更有效地利用环境反馈来…

  4. RESEARCH · CL_284267 ·

    新的蒸馏方法旨在提高LLM的能力和安全性

    研究人员正在探索用于大型语言模型的高级蒸馏技术,重点是提高能力同时降低风险。一种名为ReCal的方法通过校准剪枝来保留关键的教师支持的预测,从而提高策略内蒸馏恢复能力,带来更好的数学推理和代码生成。另一项研究引入了“用于归罪的蒸馏”(DFI)和“用于能力的蒸馏”(DFC),以揭示或隐藏教师模型的失准,其中DFI在检测隐藏行为方面显示出潜力。此外,SAPD和PIVOT等方法旨在通过优化知识在模型之间的转移方式来改进策略外学习和少样本分类…

  5. RESEARCH · CL_128582 ·

    AI研究重新定义持续学习,超越记忆关注适应性

    近期研究论文探讨了AI模型中持续学习的复杂性,超越了简单的上下文管理,以解决模型能力随着世界变化而产生的根本性提升。研究调查了模型如何适应新领域和漂移数据,一些方法在快速适应方面表现出色,但在未来任务上表现下降,而另一些方法则更稳定地积累知识,但难以处理过时事实。一个突出的关键挑战是,当前的持续学习方法倾向于隐式地假设未来数据知识,而不是真正地无关紧要,这导致需要新的方法来平衡保留和适应性。

  6. RESEARCH · CL_117274 ·

    新的DRIFT框架提升LLM自我改进能力,创SOTA基准 · 追踪2个来源

    研究人员开发了DRIFT,一个无需外部专家监督即可增强大型语言模型自我改进能力的新型框架。DRIFT采用难度路由和节律门控来管理模型的学习过程,将探索集中在关键的推理领域和问题级别进展上。在五个基准和三个模型规模上的评估表明,DRIFT的表现优于GRPO和SDPO等现有方法,取得了79.5%的新SOTA平均分数,并显著提高了ToolUse基准的准确性。

  7. RESEARCH · CL_117125 ·

    新研究挑战LLM的同策略自蒸馏,提出改进方法 · 跟踪10个来源

    近期研究论文探讨了同策略自蒸馏(OPSD)在训练大型语言模型(LLMs)方面的局限性和潜在改进。研究表明,标准的OPSD可能导致死记硬背捷径并阻碍泛化能力,尤其是在长链推理任务中。Purified OPSD和DemoPSD等新框架旨在通过优化监督信号来解决这些问题,以防止过拟合并保留模型的推理能力。其他研究强调,虽然OPSD可以加速专业化,但它可能不足以支持持续学习,并且与其他强化学习方法相比,它可能表现出更强的遗忘效应。