实体 DeLS-Spec

DeLS-Spec

PulseAugur coverage of DeLS-Spec — every cluster mentioning DeLS-Spec across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_133159 · Jul 8 · 13:41

新的DeLS-Spec方法通过解耦上下文专家来降低LLM推理成本

研究人员开发了DeLS-Spec，一种用于大型语言模型推测解码的新方法，它解耦了长上下文和短上下文专家。这种方法允许一个轻量级的本地头（短上下文专家）独立训练，与需要从头开始训练草稿模型的方法相比，显著降低了训练成本。DeLS-Spec将固定长上下文模型的logits与独立训练的本地头相结合。在Qwen3模型上的实验表明，DeLS-Spec在数学、代码和对话等各种基准测试中提高了加速比和平均接受长度。