DSpark
PulseAugur coverage of DSpark — every cluster mentioning DSpark across labs, papers, and developer communities, ranked by signal.
- 2026-06-28 research_milestone DeepSeek released the DSpark speculative decoding framework, achieving an 85% boost in generation speed. 来源
- 2026-06-28 product_launch DeepSeek released the DSpark speculative decoding framework to boost AI generation speed. 来源
- 2026-06-27 product_launch DeepSeek and Peking University jointly open-sourced DSpark, a speculative decoding framework that significantly accelerates LLM inference. 来源
- 2026-06-27 product_launch DeepSeek and Peking University jointly open-sourced DSpark, a speculative decoding framework that significantly accelerates AI model inference. 来源
6 天有情绪数据
DSpark's performance boost to be benchmarked against industry standards
With DeepSeek claiming an 80% inference speed boost and an 85% generation speed increase due to DSpark, it is likely that the company will seek to benchmark these improvements against competitors in the AI and semiconductor material sectors to validate their technological advancements.
DeepSeek to leverage DSpark for semiconductor material production efficiency
Given DeepSeek's stated focus on supporting global entrepreneurs in the primary market and its involvement in establishing a full industrial chain for fourth-generation semiconductor materials, it's plausible they will further integrate DSpark to optimize production processes and R&D in this sector.
DSpark update linked to significant inference speed gains in DeepSeek V4
Multiple sources indicate that DeepSeek's V4 model has seen an 80% increase in inference speed following an update to its DSpark system. This suggests a strong correlation between DSpark's capabilities and DeepSeek's performance improvements, particularly in generation speed which is also claimed to be up by 85%.
-
DeepSeek V4.1 Flash 模型在 M3 Ultra 上实现大幅加速
一位开发者已为 Apple 的 M3 Ultra 芯片优化了 DeepSeek V4.1 Flash 模型，显著提升了其性能。这些优化细节在 GitHub 仓库中公布，提高了解码速度，降低了延迟，并增强了投机解码能力。这些改进使得模型能够处理更大的上下文并更有效地执行代理轮次，正如一次处理超过 100,000 个 token 的 91 分钟代理交互所示。
-
DFlash 扩散模型在测试中未能加速 Gemma LLM
一种名为 DFlash 的新技术旨在通过使用通常用于图像生成的扩散模型来同时预测多个令牌，从而加速 LLM 生成。与其他专注于特定模型的方法不同，DFlash 被设计成一种通用的附加组件，可与包括 Google、MiniMax 和 Qwen 在内的各种 LLM 兼容。然而，对 Gemma-4-12B 的实际测试表明，DFlash 在速度上并未优于 Gemma 的原生 Assistant 模型。
-
新的推测性解码方法提高了大型语言模型的推理速度 · 跟踪了 7 个来源
研究人员正在推进大型语言模型的推测性解码技术，以提高推理速度。两篇新的 arXiv 论文，ECHO 和 LoopSpec，分别介绍了分层和流水线方法，以优化草稿候选生成和验证。ECHO 使用早期层奖励 logits 进行快速草稿探索，而 LoopSpec 利用 Looped Transformers 中的中间状态进行流水线草稿生成。另一篇关于 Orthrus 的论文质疑了推测性解码的“无损”声明，强调了数值精度对输出一致性的影响，而另…
-
NVIDIA 发布集成了 DSpark-Draft-Head 的 DeepSeek-V4-Pro-0813
NVIDIA 已将 DeepSeek-V4-Pro-0813 作为 NVFP4 检查点发布，集成了 DSpark-Draft-Head。此次发布将草稿模块的 MXFP4 专家无损映射到 NVFP4，确保目标和草稿之间量化的一致性。该模型设计用于在 Blackwell 硬件上运行，并利用 vLLM。
-
vLLM 为 AMD GPU 添加推测解码，提升推理速度
vLLM 已为 AMD GPU 实现了推测解码，这是一种通过让一个较小的草稿模型提出标记，然后由一个较大的目标模型进行验证，从而实现更快推理的技术。此功能针对使用 ROCm 平台的 AMD Instinct MI300X 和 MI355X GPU 进行了优化，可带来显著的速度提升，基准测试显示某些模型的吞吐量最高可提高 30%。与 NVIDIA GPU 相比，该实现的目的是提供更具成本效益的扩展解决方案，并通过消除对自定义 CUDA …
-
Smol king nanbeige 4.2 模型已更新支持 DSpark 以提升性能
Smol king nanbeige 4.2 模型已更新支持 DSpark，旨在提高其速度和性能。这款拥有40亿参数的模型面向 GPU 资源有限的用户，据称比 Qwen 3.5 9B 模型更强大、更快。开发者希望此次更新能让该模型更加易于使用。
-
LM Studio通过DFlash、DSpark和MTP优化本地AI推理
LM Studio是一款免费的本地运行大型语言模型的应用程序，现已宣布对推理速度进行优化。此次更新包括对DFlash、DSpark和多令牌预测（MTP）技术的支持，旨在提高AI模型在用户硬件上的处理速度。
-
新研究量化了区块草稿AI中的模型差距
一篇新研究论文引入了“信息底线”的概念，以更好地评估区块草稿模型，这些模型在早期标记最终确定之前同时提出多个标记。研究发现，即使是表现最好的模型，如Qwen3-4B，也存在限制其接受率的信息底线。仅实现一个标记就显著降低了这一底线，表明了短距离条件的重要性。研究还强调了一个巨大的“模型差距”，即当前的草稿模型表现远低于其理论底线，这表明其提案质量有改进的空间。
-
新研究量化了LLM区块草稿中的模型差距
一篇新论文引入了“信息底线”的概念来分析语言模型的区块草稿。该方法区分了缺失路径信息和对可观测数据的模型不完美处理。研究发现，即使是Qwen3-4B等先进模型也存在显著的模型差距，其中末槽模型差距占DFlash和DSpark中拒绝率的很大一部分。
-
llama.cpp 添加对 DSpark Nanbeige4.2-3B 模型支持
一项已提交至 llama.cpp 项目的拉取请求，旨在添加对 DSpark 模型（特别是 Nanbeige4.2-3B 变体）的支持。此贡献由用户 zqlcode 提交，目标是将该模型集成到 llama.cpp 框架中，该框架是用于在本地运行大型语言模型的流行 C/C++ 实现。拉取请求中包含演示更改的可视化辅助内容。
-
新研究探索用于大型语言模型推测性解码的并行草稿
两篇新研究论文探讨了大型语言模型推测性解码的进展，重点关注提高并行草稿的效率和连贯性。第一篇论文调查了块并行推测性解码在多模态模型中的适用性，分析了各种架构和基准。第二篇论文介绍了 LiLiCorr，这是一种轻量级方法，通过关联并行草稿的似然性来增强连贯性和接受率，展示了比现有方法显著的吞吐量改进。
-
AntLing 发布 Ling-3.0-flash 的 DSpark 草稿模型
AntLing 发布了一个名为 DSpark 的草稿模型，用于其 Ling-3.0-flash 系统。目前，该模型的 GGUF 版本尚未在 Huggingface 上提供。
-
Liquid AI 通过 DSpark 投机性解码将 LFM2.5 模型速度提升高达 3.18 倍
Liquid AI 发布了其 LFM2.5 系列的 DSpark 草稿模型，这些模型在不改变输出质量的情况下，将解码速度提高了高达 3.18 倍。该方法使用投机性解码，其中一个较小的草稿模型提出代币候选，然后由一个较大的目标模型进行验证。这种方法显著加快了推理速度，尤其适用于延迟至关重要的代理应用。这些模型可供自托管，并兼容 llama.cpp 和 SGLang 等工具。
-
开发者详解在双RTX 3090上设置Qwen3.8-27B
一位开发者详细介绍了在没有NVLink的双RTX 3090配置上运行Qwen3.8-27B模型所需的广泛故障排除工作。使用vLLM和SGLang的初步尝试遇到了重大问题，包括编译错误、依赖冲突和模型加载失败，尤其是在量化检查点方面。通过将CUDA 13.0与SGLang 0.5.17匹配并应用特定的无NVLink和内存相关补丁，终于取得了突破。进一步的优化包括使用DSpark进行推测解码，这显著提高了令牌生成速度。
-
阿里巴巴的Qwen3.8-27B模型在RTX 5090上达到206 tok/s
阿里巴巴的Qwen团队发布了Qwen3.8-27B，这是一个开源的小型模型，取得了令人印象深刻的性能指标。该模型在使用NVFP4和DSpark优化的情况下，在单块RTX 5090 GPU上解码速度达到每秒206.1个token。此次发布还包括SGLang的Day-0支持，SGLang是一个促进模型高效执行的项目。
-
NVIDIA 发布 Nemotron 3.5 Lightning 草稿模型以实现专业化解码 · 跟踪 3 个来源
NVIDIA 发布了 Nemotron 3.5 Lightning 30B-A3B 系列下的新型草稿模型，专为专业化解码任务设计。Nemotron-3.5-Lightning-30B-A3B-NVFP4-DFlash 拥有 8.33 亿参数，可在 H100 和 RTX 5090 等硬件上加速 30B 目标模型以进行 DFlash 解码。另一个变体 Nemotron-3.5-Lightning-30B-A3B-NVFP4-DSpark …
-
据报道 DeepSeek-V4-Flash 在 DSpark 草稿模型配置下存在性能问题
Reddit r/LocalLLaMA 版块的一名用户在使用 DSpark 草稿模型配置时，发现 DeepSeek-V4-Flash 模型的性能明显低于 Multi Token Prediction (MTP) 设置。MTP 配置可达到每秒 30-40 个 token 的可观速度，而 DSpark 配置则降至每秒仅 1-2 个 token。该用户正在寻求关于如何正确配置 llama-server 的推测解码以解决此瓶颈的建议，并提供了…
-
DeepSeek V4 Flash 正式发布，声称在基准测试中获胜
DeepSeek 已正式发布其 V4 Flash 模型，该公司声称该模型在九项代理基准测试中优于其 V4 Pro 预览版。文章通过检查模型卡和配置文件来验证这些说法，并指出虽然 Flash-0731 确实优于 V4 Pro，但仍不及 Opus 4.8。该版本具有 100 万个 token 的上下文窗口，采用混合专家架构，具有 FP8 密集和 FP4 专家权重，并包含集成的投机解码模块，以提高代理应用中的延迟和成本效益。
-
新研究提升LLM投机解码速度和效率 · 跟踪4个来源
arXiv上发表的四篇新研究论文介绍了增强大型语言模型投机解码的新技术。这些方法旨在提高生成速度和效率，而无需额外的模型训练。技术包括使用验证器计算的语义键、近似最长前缀选择、MoE模型的承诺加权专家集以及半自回归模型的父节点条件草稿树。这些论文共同展示了在包括Qwen3和DeepSeek-V4在内的各种基准和模型尺寸上的显著加速和改进的接受率。
-
Together AI 推出 DeepSeek V4 Flash，以更低成本实现前沿代理性能
Together AI 宣布推出 DeepSeek V4 Flash，该模型旨在显著降低运行前沿代理性能的成本。此次集成通过高吞吐量的生产环境为开发人员提供了支持，可用于编码、工具利用和长期代理工作负载等任务。DeepSeek V4 Flash 具有增强的编码能力、改进的自动化工具使用功能，并支持不同的推理工作量，同时采用 DSpark 投机解码以实现更快的生成速度。