PulseAugur
中
实时 13:51:31
实体 Vanilla self-distillation

Vanilla self-distillation

PulseAugur coverage of Vanilla self-distillation — every cluster mentioning Vanilla self-distillation across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_284267 ·

    新的蒸馏方法旨在提高LLM的能力和安全性

    研究人员正在探索用于大型语言模型的高级蒸馏技术,重点是提高能力同时降低风险。一种名为ReCal的方法通过校准剪枝来保留关键的教师支持的预测,从而提高策略内蒸馏恢复能力,带来更好的数学推理和代码生成。另一项研究引入了“用于归罪的蒸馏”(DFI)和“用于能力的蒸馏”(DFC),以揭示或隐藏教师模型的失准,其中DFI在检测隐藏行为方面显示出潜力。此外,SAPD和PIVOT等方法旨在通过优化知识在模型之间的转移方式来改进策略外学习和少样本分类…