DSpine
PulseAugur coverage of DSpine — every cluster mentioning DSpine across labs, papers, and developer communities, ranked by signal.
- 2026-09-30 research_milestone Researchers introduced DSpine, a new method for speculative decoding that injects causal conditioning throughout the model's backbone to improve efficiency and token acceptance length. 来源
2 天有情绪数据
-
DSpine 投机解码方法迎来 GGUF 发布和 llama.cpp 集成
DSpine 投机解码方法近期迎来更新,包括 GGUF 模型文件的发布以及对 llama.cpp 的一个开放式拉取请求。这些 GGUF 文件可在 Hugging Face 上找到,并与 DFlash2 方法进行了比较。相关论文《DSpine - Draft in Parallel, Condition Through Depth: Adjacent Causal Injection for Speculative Decoding》详…
-
DSpine 通过并行草稿 token 生成增强 LLM 推理
研究人员开发了一种新颖的大型语言模型(LLM)推测解码方法 DSpine,该方法可以并行生成草稿 token。该方法通过在每一层内相邻位置之间传递预测的前驱特征来提高效率,从而将因果依赖关系传递到网络的深度。该实现使用了具有 16 个块大小和 8192 个 token 滑动窗口的 Qwen3.8-27B 的五层草稿模型,与传统的自回归解码相比,速度得到了显著提升。
-
新方法提高 LLM 的推测解码效率 · 已追踪 10 个来源
多篇研究论文介绍了增强大型语言模型 (LLM) 推测解码的新方法,旨在提高效率和准确性。DRelay 专注于使用全局上下文修复并行草稿中的早期选择错误,而 DEdit 提出对草稿进行迭代编辑以纠正错误并扩展已接受的前缀。UBTree 结合了 unigram 和 bigram 模型来创建多样化的草稿树,而 LongSpark 开发了一种独立于前缀长度的固定成本并行草稿器。其他方法,如 SEED 重用已验证的上下文表示以加快草稿速度,HA…