diffusion language model
PulseAugur coverage of diffusion language model — every cluster mentioning diffusion language model across labs, papers, and developer communities, ranked by signal.
-
新框架赋能药物发现的可控分子生成
研究人员开发了一个名为“基于扩散语言模型的跨模态可控分子生成”（CMCM-DLM）的新框架，用于生成具有特定性质的分子。这种模块化方法扩展了预训练的扩散模型，使其能够处理各种约束，而无需重新训练整个模型。CMCM-DLM采用分阶段设计，其中结构控制模块用于建立分子骨架，属性控制模块用于指导生成过程以获得所需的化学性质，并在药物发现应用中证明了其有效性。
-
新的Traj-MC方法增强了用于数学推理的扩散语言模型压缩
研究人员开发了一种名为Traj-MC的新方法，以在保留其数学推理能力的同时改进扩散语言模型（dLLMs）的压缩。该方法解决了dLLMs通常在完整数据上校准，但推理涉及部分掩码状态的挑战。Traj-MC使用蒙特卡洛采样来估计一个轨迹感知的低秩目标，这导致在推理路径上具有更好的重建，并且与标准压缩技术相比，数学推理的保留效果显著更好。
-
在线发布扩散语言模型构建指南
研究人员发布了一份关于构建扩散语言模型的指南，详细介绍了构建这些AI系统的过程。该指南通过一篇博文分享，概述了创建此类模型所涉及的技术步骤和注意事项。这些信息正在通过Mastodon和Hacker News等平台传播，并在AI和机器学习社区引发讨论。
-
新模型利用扩散和方向表示来处理遥感变化字幕 · 已追踪 2 个来源
两篇新研究论文介绍了遥感图像变化字幕的新方法。EchoChange 采用具有双通道重遮蔽策略的扩散语言模型来迭代改进字幕，解决了自回归方法中的事实错误。HIMEC 提出了方向变化表示 (DCR) 和固定接口解码，在训练和推理过程中分离变化流并保持一致的解码器接口。这两种方法都旨在提高双时相遥感图像中检测到的变化的描述的准确性和连贯性。
-
新研究增强了用于鲁棒强化学习和安全规划的扩散模型
研究人员正在开发新方法来提高扩散模型在强化学习和规划任务中的鲁棒性和安全性。一种方法是鲁棒正则化策略迭代（RRPI），它通过针对最坏情况动力学进行优化来解决转移不确定性，并在 D4RL 基准测试中表现出强劲的性能。另一组论文介绍了 Kolmogorov Regression 和 DiRecT 等技术，通过提高轨迹规律性来增强扩散策略，从而实现确定性故障检测，并在推理过程中强制执行安全约束，而不会过度约束采样过程。这些进展旨在使扩散模型…