PulseAugur
中
实时 20:35:10
实体 bonus logits

bonus logits

PulseAugur coverage of bonus logits — every cluster mentioning bonus logits across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_254347 ·

    新的投机式解码方法提高了LLM推理速度 · 跟踪7个来源

    研究人员正在推进大型语言模型的投机式解码技术,以提高推理速度。两篇新的arXiv论文,ECHO和LoopSpec,分别引入了分层和流水线方法来优化草稿候选生成和验证。ECHO使用早期层奖励logits进行快速草稿探索,而LoopSpec则利用循环Transformer中的中间状态进行流水线草稿生成。另一篇关于Orthrus的论文质疑了投机式解码的“无损”声明,强调了数值精度对输出一致性的影响,而另一项关于Carryover Draft…