实体
Online Policy Distillation
Online Policy Distillation
PulseAugur coverage of Online Policy Distillation — every cluster mentioning Online Policy Distillation across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的蒸馏方法AOPD提高了学生模型的性能
研究人员开发了一种名为基于优势的在线策略蒸馏(AOPD)的新方法,以提高机器学习中在线策略蒸馏的有效性。与假设教师指导总是有益的标准方法不同,AOPD根据教师动作对当前学生模型的反事实优势进行加权。这种方法可以加强有益的教师动作,同时弱化那些无助于学生成功的动作。AOPD可以使用标准的学生轮出和终端奖励进行有效估算,无需额外的轮出或奖励评估。在数学、编码和MedQA数据集上的实验表明,AOPD在外部教师和自蒸馏场景中均优于现有的蒸…
-
新研究为扩散模型在强化学习中的优化提供了新视角
研究人员提出了优化扩散模型的新方法,特别是在强化学习的背景下。其中一种方法,在“Freeze, Share, Shrink”论文中详细介绍,提出扩散策略中的动作主干可以在任务之间冻结和共享,适应性由条件通路处理。该方法在 MimicGen 和 LIBERO 上进行了测试,表明一个更小、可重用的轨迹先验可以匹配或超越更大、特定任务主干的性能。另一篇论文“DiffusionOPD”引入了一个用于通过基于策略蒸馏的多任务训练扩散模型的统一框…