NVIDIA 发布了 Nemotron 3.5 Super VL,这是一个拥有高达 1200 亿参数的大型语言模型家族。这些模型采用了结合 Mamba-2 和专家混合(MoE)的混合架构,以提高效率,并拥有 100 万 token 的上下文窗口。该模型针对投机解码进行了优化,并包含一个用于图像和视频处理的视觉编码器,根据 OpenMDW 许可提供。 AI
影响 此次发布提供了大型上下文窗口和高效解码,有望在 RAG 和其他长上下文应用中提高性能。
排序理由 前沿实验室模型发布,附带系统卡。
- C-RADIO-Encoder
- LiLiCorr Draft-Checkpoint
- Mamba-2
- Mamba-2-MoE
- MoE-Hybrid
- Multi Token Prediction
- Nemotron 3.5 Super VL
- Nemotron-3.5-Super-VL-120B-A12B
- Nemotron 3.5 Super VL 120B-A12B Base
- NVFP4
- Nvidia
- OpenMDW License
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →