实体 ITC-MoE

ITC-MoE

PulseAugur coverage of ITC-MoE — every cluster mentioning ITC-MoE across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_270878 · Sep 27 · 00:00

新研究通过效率和性能提升推进扩散语言模型 · 已追踪10个来源

研究人员正在开发改进扩散语言模型（DLM）的新方法，重点关注效率和性能。“Clock Diffusion”引入了具有位置相关噪声调度的半自回归连续DLM，在OpenWebText上达到了最先进的界限，并在GSM8K上超越了基线。另一种方法ITC-MoE使用重要性引导的令牌感知压缩来降低混合专家DLM的计算和存储成本，同时保持生成质量。其他进展包括分层连续扩散语言模型（HC-DLM），它将离散令牌生成与连续潜在轨迹相结合；自排斥采样（S…