Autoregressive (AR) world models

Masked Diffusion Language Models outperform AR models for agentic RL

一篇新的研究论文介绍了掩码扩散语言模型（MDLM）作为文本世界模型在代理强化学习中优于自回归（AR）模型的替代方案。MDLM 通过利用双向锚点感知去噪，展示了增强的一致性和扎实性，即使在后者规模大得多的情况下，其性能也优于 AR 模型。该研究还提出了一个新的 GRPO 训练框架，并在各种代理骨干网络上展示了在未见过环境中的大量零样本迁移收益。