Nvidia 将于 10 月 15 日发布 Nemotron Bolt 3.5 74B A9B 模型,该模型旨在为本地硬件提供速度和智能的平衡。该模型拥有 740 亿参数,其中 90 亿活跃参数,采用混合专家架构。它被打包在 24GB 中,使用 2 位量化,采用先进技术来保持质量,同时旨在比密集模型更快,比同等大小的 MoE 模型更智能。 AI
影响 此次发布旨在将强大的 AI 模型引入本地硬件,从而可能提高用户的可访问性和性能。
排序理由 NVIDIA Nemotron Bolt 3.5 74B A9B 模型发布,附带系统卡。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →