Nvidia 发布了 Nemotron-Labs-Sigma 系列新语言模型,该模型采用连续扩散方法进行文本生成。拥有 80 亿参数的 Nemotron-Labs-Sigma-8B-instruct 模型经过指令遵循微调,通过在学习到的嵌入空间中去除高斯噪声来并行生成文本块。与传统的掩码扩散模型相比,该方法在保持具有竞争力的推理准确性的同时,能够以更少的步骤实现更快的生成速度。这些模型可用于商业和非商业用途,并支持高达 8,192 个 token 的上下文长度。 AI
影响 为大型语言模型引入了一种新颖的基于扩散的生成方法,有可能提高推理速度和质量。
排序理由 Nvidia/Nemotron-Labs-Sigma 8B/3B 是一个前沿实验室模型发布,附带系统卡 [lever_c_demoted from frontier_release: ic=1 ai=1.0]
- Nemotron-Labs-Sigma
- Nemotron-Labs-Sigma-3B
- Nemotron-Labs-Sigma-3B-instruct
- Nemotron-Labs-Sigma-8B
- Nemotron-Labs-Sigma-8B-instruct
- Nvidia
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →