Zheng Wang
PulseAugur coverage of Zheng Wang — every cluster mentioning Zheng Wang across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
XPress增强了扩散模型的投机解码
研究人员开发了xPress,一种改进扩散草稿器(diffusion drafters)中投机解码(speculative decoding)的新方法。该技术解决了扩散模型中独立采样的token的问题,这可能导致联合概率不高的序列。通过并行恢复草稿token块的因果依赖关系,xPress显著提高了接受长度(acceptance length)和端到端解码吞吐量(end-to-end decoding throughput)。在Qwen3…
-
新的基准测试LakeMLB面向数据湖中的多表机器学习
研究人员推出了LakeMLB,这是第一个专门为数据湖环境中的多表机器学习设计的基准测试。该基准测试解决了数据湖中机器学习性能缺乏标准化评估的问题,而数据湖对于管理大规模、异构数据至关重要。LakeMLB包含两种主要场景:Union和Join,使用了六个真实世界的数据集,并支持三种多表学习范式:预训练、数据增强和特征增强,并附带标准化的数据划分和评估协议。该项目旨在通过发布数据集和相关代码来促进严谨的研究。
-
PuzzleMoE 提供通过稀疏合并实现的高效 MoE 模型压缩
研究人员开发了 PuzzleMoE,一种无需重新训练即可压缩大型混合专家(MoE)模型的新颖方法。该技术通过采用稀疏专家合并来解决 MoE 模型显著的内存开销,该合并识别并组合冗余和专业化的参数。此外,PuzzleMoE 引入了一种比特打包编码方案,以有效地在 GPU 上存储模型组件,进一步减少内存使用并加速推理。实验表明,PuzzleMoE 可以在保持准确性的同时将 MoE 模型大小减半,甚至在 MMLU 等基准测试中优于现有的压缩方法。