研究人员开发了一个名为Denoising Token Credit Assignment (DTCA)的新框架,以改进扩散语言模型(DLMs)的强化学习。DLMs会迭代地生成文本,这使得为最终输出分配单个token的信用变得复杂。DTCA通过根据预测置信度的提高来估计token的贡献,并按词性对这些信号进行分组来解决这个问题。该方法在数学推理方面取得了显著的进步,当应用于LLaDA-8B-Instruct模型时,在MATH500上的分数提高了9.0分,在GSM8K上的分数提高了5.3分。 AI
影响 这项研究可能带来更强大的、具有改进推理能力的扩散语言模型,并可能影响需要复杂文本生成的应用。
排序理由 该集群包含一篇详细介绍改进扩散语言模型新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Denoising Token Credit Assignment
- Diffusion language models
- GSM8K
- Hugging Face
- LLaDA 8B Instruct
- MATH500
- reinforcement learning
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →