实体
Sead
Sead
PulseAugur coverage of Sead — every cluster mentioning Sead across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究挑战LLM的同策略自蒸馏,提出改进方法 · 跟踪10个来源
近期研究论文探讨了同策略自蒸馏(OPSD)在训练大型语言模型(LLMs)方面的局限性和潜在改进。研究表明,标准的OPSD可能导致死记硬背捷径并阻碍泛化能力,尤其是在长链推理任务中。Purified OPSD和DemoPSD等新框架旨在通过优化监督信号来解决这些问题,以防止过拟合并保留模型的推理能力。其他研究强调,虽然OPSD可以加速专业化,但它可能不足以支持持续学习,并且与其他强化学习方法相比,它可能表现出更强的遗忘效应。
-
SEAD框架在无人工标注的情况下改进服务对话代理
研究人员开发了SEAD,一个旨在提高服务对话中代理性能的新型框架。SEAD通过使代理能够在没有大量人工标注的情况下学习有效策略,解决了当前模型依赖嘈杂的人类对话数据的局限性。该框架将用户建模解耦为用于生成不同用户状态的Profile Controller和用于真实交互的User Role-play Model,确保了适应性训练场景。实验表明,SEAD的性能显著优于开源和商业模型,任务完成率提高了17.6%,对话效率提高了11.1%。