PulseAugur
中
实时 11:05:30
实体 DuplexTune

DuplexTune

PulseAugur coverage of DuplexTune — every cluster mentioning DuplexTune across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_326914 ·

    DuplexTune框架为MoE语言模型提供内存高效的适应性

    研究人员开发了DuplexTune，一个旨在提高专家混合（MoE）语言模型适应性内存效率的新框架。该方法通过重放耦合的隐藏状态通过预训练模块，显著降低了与传统监督微调相比的峰值内存使用量。虽然DuplexTune在MMLU和GSM8K等基准测试中表现出竞争力，但它在内存效率、适应性质量和吞吐量之间存在权衡，尤其影响多语言分数。