NeMo-RL
PulseAugur coverage of NeMo-RL — every cluster mentioning NeMo-RL across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
NVIDIA 发布 Nemotron 3.5 Bolt E4B 用于本地 AI 助手
NVIDIA 发布了 Nemotron 3.5 Bolt E4B 4GB，这是一款开源的小型语言模型，专为在语音助手、游戏角色和机器人等设备上高效本地运行而设计。该模型基于 Google 的 Gemma 4 E4B，通过强化学习进行后训练，专注于对话能力和多轮工具使用。NVIDIA 声称 Nemotron 3.5 Bolt E4B 在多项基准测试中优于 Gemma 4 E4B 和其他小型模型，并且在推测解码测试中速度更快。
-
研究：arXiv论文中的少数强化学习方法被开源框架采纳
一项对七个开源强化学习（RL）训练框架的分析研究发现，arXiv论文中提出的RL方法被整合到这些框架中的比例很低。在1598篇提出通用RL方法的论文中，只有37篇在180天内被至少一个框架采纳。更频繁被纳入的论文涉及训练参数量在300亿或以上策略以及对现有损失函数的修改。研究还表明，许多提出的方法并未在框架的issue tracker中公开讨论或审查，这表明了采纳过程中存在瓶颈。
-
NVIDIA Spectrum-X 以太网获得多路径可靠连接，支持千兆级 AI
NVIDIA 的 NeMo RL 投机解码为 AI 模型训练提供了显著的速度提升，在 8B 参数下达到 1.8 倍，预计在 235B 参数下达到 2.5 倍，可能将训练时间减半。同时，RoundPipe 技术能够在单个 24GB GPU 上对 32B 模型进行完全微调，速度提升 1.5-2.2 倍。这些推理和训练效率的进步为 AI 芯片初创公司挑战 NVIDIA 的主导地位创造了机会，NVIDIA 收购 Groq 即是明证。
-
NVIDIA NeMo RL 使用推测解码将 AI 训练速度提高 1.8 倍
NVIDIA Research 已将其推测解码集成到其 NeMo RL 框架中，在 80 亿参数规模下实现了 1.8 倍的部署生成速度提升。这项利用 vLLM 后端的技术有望提供高达 2.5 倍的端到端加速。此项开发旨在显著降低与人工智能相关的训练成本。
-
新研究详细介绍了用于加速 RL 训练后部署的推测解码
研究人员开发了一种系统集成的推测解码方法，以加速大型语言模型的训练后部署生成。该技术在 NeMo-RL 中使用 vLLM 后端实现，作为一种无损加速原语，可保持目标模型的输出分布。在 8B 模型上的初步测试显示，部署吞吐量提高了 1.8 倍，模拟预测使用异步 RL 管道对更大模型可实现高达 2.5 倍的加速。