实体 DuoRate

DuoRate

PulseAugur coverage of DuoRate — every cluster mentioning DuoRate across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_294585 · Oct 12 · 04:00

DuoRate 通过解耦存储和计算精度来优化专家混合模型

研究人员推出了一种名为 DuoRate 的新方法，用于优化专家混合（MoE）模型。DuoRate 通过解耦存储成本和计算成本来解决 MoE 服务中的不匹配问题。该系统以统一精度存储权重，并根据工作负载分析在解码过程中动态调整精度，在 GSM8K 等基准测试中表现优于现有方法，并在显著降低比特率的情况下实现了具有竞争力的准确性。