PulseAugur
中
实时 09:58:48
实体 Router Prior Bias

Router Prior Bias

PulseAugur coverage of Router Prior Bias — every cluster mentioning Router Prior Bias across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_244873 ·

    新技术保留 MoE 路由结构，以提高 AI 模型性能

    研究人员推出了一种名为 Router Prior Bias (RPB) 的新技术，以提高混合专家 (MoE) 模型在训练后的性能。与强制均匀使用专家的标准方法不同，RPB 保留了预训练期间学到的固有的、非均匀的路由结构。这种被称为软路由锚定的方法，在 Moonlight-16B-A3B 和 Qwen3-30B-A3B-Base 等模型上展示了显著的领域内准确性提升，其表现优于均匀重新应用负载均衡损失和未锚定的微调。研究表明，软性地维护…