实体
LLaDA-2.1
LLaDA-2.1
PulseAugur coverage of LLaDA-2.1 — every cluster mentioning LLaDA-2.1 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的解码方法提高了扩散语言模型的速度和准确性
研究人员开发了新的方法来加速扩散语言模型(dLLMs)的解码过程。一篇论文中提出的FlowBlock使用“门控波前解码”和“异构波前打包”的无需训练的方法,与现有的串行方法相比,实现了显著的速度提升和准确性改进。另一篇论文介绍了AdaLook,一个自适应多步前瞻框架,它根据解码状态动态调整其探索深度,优于简单的单步前瞻技术。
-
顺序无关语言模型显示出顺序依赖的似然度
研究人员发现,顺序无关语言模型(OALMs)不能完美地分解联合分布,这意味着标记的揭示顺序会影响生成的似然度,最高可达0.49 nats/token。虽然置信度优先解码是顺序无关的,但其标记揭示顺序与从左到右生成非常相似。该研究还提出了一种基于置信度轨迹方差的新诊断工具,表明均匀的置信度扩散最大化了目标可恢复性,并且较低的方差与较高的下游正确性相关。