Qwen3-1.7B-Base
PulseAugur coverage of Qwen3-1.7B-Base — every cluster mentioning Qwen3-1.7B-Base across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新的蒸馏方法改进了LLM的领域适应性
研究人员开发了一种名为策略内中期蒸馏(OPMD)的新方法,以改进大型语言模型(LLM)在专业领域的适应性。与平等对待所有训练数据的传统方法不同,OPMD会主动从不断发展的模型中采样轨迹,并使用教师模型的奖励,从而解决了训练-生成不匹配的问题。这种方法在Qwen等模型的数学基准测试中表现出改进,优于标准的下一个词预测方法。OPMD可以集成到现有的训练流程中,而不会增加推理时间。
-
InkMind 项目评估用于诗歌生成的开源大语言模型
一个名为 InkMind 的项目,专注于通过文本续写来生成诗歌,目前正在评估多个开源大语言模型。该团队正在探索 GPT-Neo-125M、Pythia-160M 和 Qwen3-1.7B-Base,以期改进他们之前使用的 GPT-2。这些模型正在根据其适用性和实用性进行评估,特别是在与 Google Colab 和 T4 GPU 配合使用方面,目标是找到一个能够增强 InkMind 创意写作能力的模型。
-
新的RLVR方法通过提高样本多样性来增强大型语言模型的推理能力
研究人员开发了新的方法,通过具有可验证奖励的强化学习(RLVR)来提高大型语言模型(LLMs)的推理能力。一种名为Flat-RLVR的方法通过促进平坦奖励最优值来解决“分布锐化”问题,从而平滑策略分布并增强样本多样性,同时保持准确性。另一种方法“激活空间探索”(ASE)通过对正确和错误响应之间的激活差异进行聚类来使训练 rollout 多样化,从而提高了在数学推理基准上的性能。
-
新方法通过减轻分布锐化来改进AI数学问题解决能力
一篇新研究论文介绍了分布对齐提示合成(DAHS)和反向提示退火(BHA)技术,以改进在具有可验证奖励的强化学习(RLVR)中解决复杂数学问题的能力。这些方法旨在减轻分布锐化现象,该现象会导致模型在简单问题上的准确性提高,但会牺牲在更难问题上的覆盖率。DAHS创建与学生响应相匹配的教师提示,而BHA则随着模型性能的提高逐渐减少提示暴露,并使用dropout在训练过程中保持无提示的rollout。这些技术在Qwen3模型的AIME基准测试…
-
新的残差优势方法增强了AI推理模型
研究人员推出了一种名为残差优势(RA)的新方法,用于改进具有可验证奖励和同策略蒸馏的强化学习模型。RA将教师模型和学生模型之间的概率残差视为有界奖励,然后用它来形成优势项。这种方法旨在重新分配响应中各步骤之间的信用,而不改变整体结果标签。该方法还包含一种名为CoRA的教师LoRA更新机制,该机制根据学生的进步调整指导,从而在数学基准测试中取得显著改进。
-
新的SCAPO方法增强了LLM的推理和泛化能力
研究人员推出了一种名为半事实信用增强策略优化(SCAPO)的新方法,旨在提高大型语言模型(LLM)的推理和泛化能力。SCAPO通过将半事实稳定性纳入token级别的信用分配,解决了现有强化学习技术的局限性,这有助于减少对不相关提示特征的依赖。当应用于Qwen3-4B-Base和Qwen3-1.7B-Base模型时,与先前的方法相比,SCAPO在数学基准测试和分布外任务上显示出显著的准确性提升。
-
新方法增强AI策略优化以应对复杂任务 · 跟踪2个来源
研究人员开发了改进强化学习策略的新方法,特别是在数学推理等复杂任务中。一种方法HISPO引入了一种段级策略优化技术,该技术将显著性权重分配给响应的连续段,在token级和序列级方法之间提供了一个中间纠正单元。另一项开发Adversarial Importance Sampling (Advis) 专注于通过优化可验证的最坏情况回报,而无需额外的环境交互或辅助网络,来保护深度强化学习策略免受输入扰动的影响。这两种方法都旨在提高AI模型在…
-
新的蒸馏方法通过软提示高效训练大语言模型
研究人员开发了一种名为“通过软提示特权上下文进行多任务在线策略蒸馏”(“该方法”)的新方法来训练大语言模型。该技术使用一个仅通过可学习的软提示与学生模型不同的教师模型,从而在不改变学生模型核心参数的情况下实现高效的知识转移。多任务变体使单个学生模型能够同时从多个教师那里学习,从而提高在科学、工具使用、生物学和数学等各种任务上的性能。