实体 H$^2$SD

H$^2$SD

PulseAugur coverage of H$^2$SD — every cluster mentioning H$^2$SD across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_156464 · Jul 21 · 00:00

新的H$^2$SD框架通过混合自蒸馏提升LLM推理能力

研究人员开发了H$^2$SD，一种新颖的混合回溯自蒸馏框架，旨在增强大型语言模型的推理能力。该方法解决了现有具有可验证奖励的强化学习（RLVR）技术的局限性，这些技术通常存在监督稀疏和令牌级信用分配不佳的问题。H$^2$SD根据轨迹的正确性来区分其方法：对于成功的路径，它会调整更新幅度；对于失败的路径，它使用参考提示来指导学生模型获得经过验证的答案。在各种推理基准上的实验表明，H$^2$SD在性能和效率方面均优于当前的RLVR、同策略…