DLMs
PulseAugur coverage of DLMs — every cluster mentioning DLMs across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究通过效率和性能提升推进扩散语言模型 · 已追踪10个来源
研究人员正在开发改进扩散语言模型（DLM）的新方法，重点关注效率和性能。“Clock Diffusion”引入了具有位置相关噪声调度的半自回归连续DLM，在OpenWebText上达到了最先进的界限，并在GSM8K上超越了基线。另一种方法ITC-MoE使用重要性引导的令牌感知压缩来降低混合专家DLM的计算和存储成本，同时保持生成质量。其他进展包括分层连续扩散语言模型（HC-DLM），它将离散令牌生成与连续潜在轨迹相结合；自排斥采样（S…
-
扩散语言模型通过新的效率和安全技术取得进展 · 跟踪 10 个来源
近期研究探讨了扩散语言模型（DLM）的进展，重点在于提高其效率、安全性和能力。论文介绍了 Q-Skew 等方法，用于隐私风险评估和个人身份信息（PII）提取；以及通过识别早期去噪步骤中的拒绝信号来增强安全对齐的 Refusal-Aware Early Commitment (RAEC)。CARVE 和 Survival-Guided Length Decoding 等技术旨在优化生成长度和降低计算成本，而 Affix Cache 和 …
-
新研究加速扩散语言模型训练并增强生成能力
研究人员正在探索掩码扩散语言模型（MDMs）的进步，以提高其训练效率和生成能力。一项研究提出了一种“钟形时间采样”策略，可将MDM训练速度提高多达四倍，同时在One Billion Word Benchmark等基准测试中保持性能。另一篇论文介绍了多掩码扩散模型（MultiMDMs），通过保留掩码结构来增强少步生成，从而在精炼为干净标记之前更好地预测指定掩码。此外，一个名为基于轨迹的策略内蒸馏（TOPD）的新框架允许扩散语言模型在没有…