实体
DDTree
DDTree
PulseAugur coverage of DDTree — every cluster mentioning DDTree across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
GRAFT 框架通过新的评分和预算分配提升 DLM 预测解码
研究人员推出 GRAFT，一个旨在增强扩散语言模型（DLM）中预测解码的新框架。GRAFT 采用目标蒸馏边评分（TDES）从目标模型轨迹中学习父子兼容性偏好，确保草稿树中更准确的边选择。此外，它利用状态感知预算分配（SABA）根据解码状态动态调整树预算，平衡草稿增益与验证成本。该方法已证明能显著提速，比自回归方法快 2.13 倍至 6.36 倍，且开销极小。
-
新的推测解码方法提高了 LLM 推理速度和效率 · 跟踪 6 个来源
研究人员推出了 DominoTree，一种新颖的推测解码方法，通过使用条件树状结构显著加速 LLM 推理。该方法在 Qwen3-4B 模型上实现了高达 6.6 倍的加速，并显示出比 DDTree 和 CaDDTree 等现有技术更高的吞吐量。同时，其他研究探索了宽松的推测解码，研究速度和能力之间的权衡，并引入了 AdaptiveSD 以在 CPU 限制下实现鲁棒的、运行时自适应的推理。DSpark 是另一个框架，它将高吞吐量的并行生成…