研究人员推出了 Nemotron 3.5 Super 和 Lightning,这是新的开源专家混合(Mixture-of-Experts)Mamba-Transformer 模型。Nemotron 3.5 Super 是一个 120B 参数的多模态模型,专为推理和 Agentic 任务设计,而 Lightning 是一个较小的 30B 参数文本模型,专注于效率。这两个模型都采用了先进的训练技术,包括大规模蒸馏、长上下文训练和推测解码,其中 Super 模型还采用了专门的 Agentic 训练,以实现软件工程能力。Super 模型在 SWE Bench Pro 等基准测试中表现出色,尽管活跃参数较少,但仍优于其前身 Nemotron 3 Ultra,并在 GB200 硬件上实现了高推理速度。 AI
影响 这些开源模型可能会加速 Agentic AI 和高效模型部署方面的研究和开发。
排序理由 该条目是一篇详细介绍新开源 AI 模型的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- GB200
- Mamba-Transformer
- mixture of experts
- Nemotron 3.5 Lightning
- Nemotron 3.5 Super
- Nemotron 3 Ultra
- reinforcement learning from human feedback
- RLVR
- SWE Bench Pro
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →