实体
Qwen3-Base
Qwen3-Base
PulseAugur coverage of Qwen3-Base — every cluster mentioning Qwen3-Base across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新框架统一策略内自蒸馏以增强LLM推理能力 · 跟踪3个来源
研究人员开发了一个统一的策略内自蒸馏（OPSD）框架，通过将特权信息整合到模型参数中来增强LLM的推理能力。这个名为统一策略内自蒸馏（USD）的新框架，通过根据学生模型的学习能力联合优化token选择和特权信息调整，解决了先前OPSD方法的局限性。另一种名为SKALD（Skill-Anchored Latent Distillation）的方法使用抽象技能卡提供密集监督，尤其是在标准奖励信息不足时，在数学基准测试上显示出显著的改进。另…
-
新的回放方法提升了 LLM 的 GRPO 训练
研究人员开发了一种新方法，用于提高 GRPO 的样本效率。GRPO 是一种用于训练大型语言模型的强化学习技术。所提出的逐轮次经验回放缓冲区存储和采样单个轮次，防止它们变得陈旧并破坏训练稳定性。该方法在 Qwen3-Base 模型在数学基准测试上的各种规模上均显示出性能提升，在 4B 规模上观察到的最大改进为 +4.35 个百分点。