实体
Projected Distillation
Projected Distillation
PulseAugur coverage of Projected Distillation — every cluster mentioning Projected Distillation across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Projected Distillation 增强了 AI 在困难问题上的学习能力
研究人员开发了一种名为“投影蒸馏”的新方法，以改进 AI 模型在所有尝试解决问题都失败的场景中的 on-policy 学习。该技术可以最小程度地编辑模型错误的尝试，将其转化为正确的靶点，从而在没有奖励信号的情况下也能进行学习。在 Qwen3-8B 和 OLMo-2-7B 模型在不同领域的实验表明，投影蒸馏在平衡专业化和保留能力方面，显著优于 GRPO、OPD、SPOT 和 SODA 等现有方法。
-
Projected Distillation 增强 AI 在复杂任务上的学习能力
研究人员提出了一种名为“投影蒸馏”的新型 on-policy 学习方法，该方法在 AI 模型处理复杂任务时尤其有效，因为在这些任务中，初始尝试往往会失败。该方法通过对模型不正确的生成进行最小编辑，创建修正后的目标，从而即使在所有学生尝试都错误的情况下也能进行学习。实验表明，投影蒸馏在数学、代码和科学等多个领域均优于 GRPO 和 OPD 等现有方法，它在专业化与保留现有能力之间取得了平衡。