实体
Yiqin Hao
Yiqin Hao
PulseAugur coverage of Yiqin Hao — every cluster mentioning Yiqin Hao across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Dual-Slot架构加速语言模型推理
研究人员推出了一种新颖的语言模型架构Dual-Slot，旨在增强计算深度并降低解码延迟。该架构将串行循环计算重新组织为并行潜在槽和预测槽，从而在不增加模型参数的情况下实现更快生成。使用Qwen风格模型的实验表明，在保持高解码吞吐量的同时，语言建模准确性和下游任务性能得到了提高。
-
新的P2N方法通过重用深度表示来增强Qwen模型的推理能力
研究人员推出了一种新颖的方法P2N（Previous to Next），通过重用先前标记的深度表示来增强语言模型的推理能力。该技术以最小的解码开销增加了有效的计算深度，每步仅增加一个向量加法。使用Qwen风格的模型进行的实验表明，P2N在GSM8K基准测试上的准确性显著提高了10个百分点以上，同时在通用语言建模和下游任务中也显示出优势。