PulseAugur
中
实时 09:24:46

通过插值和精炼技术增强的扩散语言模型 · 跟踪 2 个来源

作者 PulseAugur 编辑部 · [2 个来源] ·

两篇研究论文探讨了扩散语言模型的进展，重点是提高其效率和性能。第一篇论文《Lost in Interpolation》引入了球形软掩码（S-SM）来解决嵌入空间的几何特性，从而显著提高了 MAUVE 分数并降低了困惑度。第二篇论文《Inference-Time Scaling of Diffusion Language Models via Trajectory Refinement》提出了用于轨迹级精炼的粒子吉布斯采样（PG-DLM），能够实现更好的奖励引导生成，并在 GSM8K 等基准测试中提高了准确性。 AI

影响 这些进展提高了扩散语言模型的效率和性能，有望带来更好的生成能力和更准确的任务完成。

排序理由 两篇在 arXiv 上发表的学术论文，详细介绍了改进扩散语言模型的新颖方法。

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

通过插值和精炼技术增强的扩散语言模型 · 跟踪 2 个来源

报道来源 [2]

  1. arXiv cs.CL TIER_1 English(EN) · Lavanya Nigam, Ishaan Bansal, Aryan Sood, Vidit Aggarwal, Gaurav Kumar Nayak ·

    插值中的迷失：为何预测性反馈在扩散语言模型中会失效

    arXiv:2608.06529v1 Announce Type: new Abstract: Soft-masking accelerates the convergence of Masked Diffusion Language Models (MDLMs). Existing formulations build this blend with linear interpolation (LERP) in the raw embedding space, which implicitly treats that space as Euclidea…

  2. arXiv cs.LG TIER_1 English(EN) · Meihua Dang, Jiaqi Han, Minkai Xu, Kai Xu, Akash Srivastava, Stefano Ermon ·

    通过轨迹精炼实现扩散语言模型的推理时缩放

    arXiv:2507.08390v5 Announce Type: replace Abstract: Discrete diffusion models have recently emerged as strong alternatives to autoregressive language models, matching their performance through large-scale training. However, inference-time control remains relatively underexplored.…

相关实体

相关话题