研究人员开发了 LEAP，一种增强扩散语言模型 (dLLM) 并行性的新方法。LEAP 通过识别去噪过程中早期收敛的标记，解决了当前 dLLM 对并行处理需要高置信度级别的限制。这种无需训练、即插即用的技术利用未来上下文过滤和多序列叠加来检测这些早期收敛的标记，从而在不牺牲准确性的情况下实现更快的解码。基准测试表明，LEAP 可以将 GSM8K 等数据集上的去噪步骤减少约 30%，并将解码速度提高到每步 7.2 个标记，这通过将 LEAP 与 dParallel 结合得到证明。 AI
影响 增强了 dLLM 的效率，有可能加速推理并降低并行处理的计算成本。
排序理由 该集群包含一篇详细介绍改进 LLM 并行性新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
