研究人员开发了 BlockGen，一种新颖的分块序列建模方法，它利用混合采样器来改进离散扩散。该方法通过在混合块大小上进行训练，在自回归模型和纯扩散模型之间进行插值，从而实现灵活的生成。BlockGen 引入了一种受 AR 启发的预测-校正采样技术，该技术结合了自回归和扩散预测来重新生成不太可能的标记，在某些情况下优于传统方法。 AI
影响 引入了一种新的离散扩散建模方法，有可能提高序列生成质量和效率。
排序理由 这是一篇详细介绍新建模方法的学术论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
arXiv:2606.02241v1 Announce Type: new Abstract: Is the uniform-state diffusion framework a more powerful paradigm for discrete diffusion? Recent studies indicate that this may be the case. In combination with predictor-corrector samplers, uniform-state diffusion models (USDMs) pr…