实体
Qwen3-30B-A3B-Base
Qwen3-30B-A3B-Base
PulseAugur coverage of Qwen3-30B-A3B-Base — every cluster mentioning Qwen3-30B-A3B-Base across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
新技术保留 MoE 路由结构，以提高 AI 模型性能
研究人员推出了一种名为 Router Prior Bias (RPB) 的新技术，以提高混合专家 (MoE) 模型在训练后的性能。与强制均匀使用专家的标准方法不同，RPB 保留了预训练期间学到的固有的、非均匀的路由结构。这种被称为软路由锚定的方法，在 Moonlight-16B-A3B 和 Qwen3-30B-A3B-Base 等模型上展示了显著的领域内准确性提升，其表现优于均匀重新应用负载均衡损失和未锚定的微调。研究表明，软性地维护…
-
多领域强化学习新研究 · 追踪10个来源
arXiv上发表的多篇研究论文探讨了强化学习（RL）的进展及其应用。一项研究侧重于通过决策树剪枝提高RL策略的可解释性，并在控制基准测试中显示出有效性。另一篇论文介绍了一种博弈论逆强化学习方法，用于预测人类驾驶行为，其准确性优于现有方法。此外，研究还探讨了可解释人工智能（XAI）在人机协作中的支持作用、RL组件在样本高效控制中的协同作用，以及多目标RL的网络现代化。其他论文深入研究了轨迹相对滞后蒸馏、信用节约动作到令牌分配，以及在模拟…
-
新方法追踪稀疏 MoE 语言模型中的事实回忆
研究人员开发了一种新的“专家感知因果追踪”方法，专门用于稀疏专家混合（MoE）语言模型。该技术旨在精确定位 MoE 块中负责事实回忆的具体“专家”。研究将此方法应用于 Qwen3-30B-A3B-Base 和 Mixtral-8x7B-v0.1 等模型，发现专家定位可能依赖于模型。