研究人员推出了一种名为 HaloBlock 的新机制,旨在提高扩散大语言模型 (dLLM) 解码的效率和质量。该方法解决了解码难度集中在块的右侧以及块之间上下文不连续等限制。通过使用双向累积熵评估块解码难度,HaloBlock 自适应地分配光环区域以平滑上下文传播并降低挑战性 token 的难度。在 LLaDA-8B-Instruct、Dream-7B-Instruct 和 LLaDA-1.5 等模型上的评估显示,在数学推理和代码生成等任务中的准确性和推理速度均有所提高。 AI
影响 HaloBlock 为扩散大语言模型提供了更快、更准确的推理途径,尤其是在编码和推理等复杂任务中。
排序理由 该集群包含一篇研究论文,详细介绍了一种改进 LLM 解码的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →