PulseAugur
中
实时 08:10:33
实体 Length Self-Distillation

Length Self-Distillation

PulseAugur coverage of Length Self-Distillation — every cluster mentioning Length Self-Distillation across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_273249 ·

    新技术缓解人工智能模型响应长度过长问题

    研究人员引入了一种名为长度自蒸馏（Length Self-Distillation, LSD）的新技术，以解决强化学习后训练中的“长度缩放税”（length-scaling tax, LST）问题。LST 指的是模型在已解决的问题上变得不必要地冗长，但准确性并未相应提高的现象。LSD 旨在通过将已解决的提示路由到在线蒸馏过程，同时为未解决的提示保持原始强化学习目标来缓解这一问题。该方法使用在线策略的指数移动平均作为其教师，无需外部模型…