Dream-7B
PulseAugur coverage of Dream-7B — every cluster mentioning Dream-7B across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Sangam 系统优化扩散式大语言模型的服务
研究人员开发了 Sangam，一个旨在高效处理扩散式大语言模型（dLLMs）的新服务系统。与传统的自回归模型不同，dLLMs 迭代生成文本并具有双向注意力机制，这使得标准的缓存技术变得复杂。Sangam 引入了一个赤字 token 预算调度器来管理进行中的解码和整个预填充，目标是实现摊销的无停滞调度。该系统还采用了一种混合服务策略来平衡预填充和解码的资源分配，在 LLaDA-8B 和 Dream-7B 等基准测试中显示出比现有方法更高的延迟改进。
-
新的Sangam系统可高效服务扩散式大语言模型
研究人员开发了Sangam，一个新颖的、旨在高效处理扩散式大语言模型（dLLMs）的服务系统。与传统的自回归模型不同，dLLMs通过迭代去噪生成文本，并且由于其双向注意力机制，无法直接应用标准的KV缓存。Sangam通过引入一个赤字令牌预算调度器来解决这个问题，该调度器优先处理正在进行的解码，并仅在令牌预算允许时才允许整个预填充，从而确保了摊销的无停滞调度。该系统还采用了一种混合服务策略来管理预填充-解码资源分区，从而优化了对解码密集…
-
全新 7B 统一扩散语言模型 'Sumi' 发布，伴随扩散模型进展
研究人员推出了 Sumi，一个拥有 70 亿参数的统一扩散语言模型 (UDLM)，该模型在 1.5 万亿 tokens 上从头开始预训练。这个开源模型在知识、推理和编码任务上表现出与自回归模型相当的性能，但在常识基准测试上表现稍逊。发布内容包括模型权重、检查点以及完整的训练方法，旨在为大规模研究 UDLM 提供参考。此外，其他研究探索了扩散语言模型的进展，包括生成 CUDA 核的方法、通过自生成错误训练改进 Token 编辑，以及开发…
-
Diffusion LLM 展现出更大的表征冗余，可实现压缩
一篇新论文分析了自回归 (AR) 和扩散语言模型 (dLLM) 的内部表征。研究人员发现，扩散模型创建了更多具有早期层冗余的全局表征，而 AR 模型则具有紧密耦合的局部表征。dLLM 中的这种冗余可以节省大量计算成本，原生扩散模型在保持数学和编码任务 90% 以上性能的同时，可吸收高达 18.75% 的 FLOPs 削减。