Nemotron
PulseAugur coverage of Nemotron — every cluster mentioning Nemotron across labs, papers, and developer communities, ranked by signal.
- 2026-06-18 product_launch NVIDIA released the Nemotron model for local execution. 来源
10 天有情绪数据
-
AI前沿转移:成本、分发超越基准,成为新模型竞赛焦点
人工智能行业正将其重点从原始能力转向成本效益和分发,近期发布的尖端模型便证明了这一点。埃隆·马斯克的 Grok 4.5 定位为“Opus级”,但成本显著降低,而 OpenAI 的 GPT-5.6 Sol 的发布则经过战略定价并受政府审查限制。Meta 的 Muse 模型引入了用于媒体生成的代理能力,Nvidia 则通过 Nemotron 等开源替代品来颠覆封闭模型市场。这种竞争格局表明,多模型编排和高效分发正变得比单纯的基准性能更为关键。
-
Palantir CEO Alex Karp criticizes OpenAI, Anthropic over AI value and IP risks
Palantir CEO Alex Karp has voiced strong criticism of leading AI companies like OpenAI and Anthropic, suggesting enterprises gain little value from their token-based pricing and risk losing intellectual property. While …
-
本地AI爱好者探索模型融合技术以提升性能
Reddit的r/LocalLLaMA论坛上的一位用户正在询问关于"Fusion"或"Sakana Fugu"方法的本地开源版本的开发情况。这些技术旨在结合多个小型语言模型,以获得与更大、更强大的模型相媲美的输出质量,从而可能减少本地AI设置的内存需求。用户对目前进展以及使用Qwen3.6 27b、Gemma4 31b和Nemotron等本地模型集群来匹配GLM 5.2等模型的性能而无需运行单个大型模型的前景感到好奇。
-
Palantir首席执行官:美国政府客户正在迁移到NVIDIA的Nemotron
Palantir首席执行官Alex Karp表示,美国政府客户正转向NVIDIA的开源Nemotron模型。这一转变表明,为了满足国家安全需求,正从商业软件初创公司转向硬件-国防基础设施。此次迁移凸显了核心基础设施层内部权力的集中。
-
自主系统在无人干预的情况下对30B Nemotron模型进行训练后
研究人员开发了一个自主系统,能够在无人干预的情况下对一个拥有300亿参数的模型进行训练后。该系统成功地在数周内迭代训练了一个Nemotron模型,并在NVIDIA Nemotron-Reasoning Challenge上取得了有竞争力的分数。值得注意的是,该系统检测到了一个误导性的发展指标,并调整了其搜索策略以优先考虑外部性能,展示了超越单纯优化的发现能力。
-
120B开放权重AI模型现已可在单台工作站上运行
AI领域日益青睐私有、本地运行的模型,大型开放权重模型现已能在单台工作站上运行。拥有1200亿参数的模型,如Qwen和Nemotron,可以部署在DGX Spark等设备上,该设备配备128GB内存。这一转变表明AI部署正朝着更易于访问和可能更安全的方向发展,其能力可与GPT-4等先进的商业模型相媲美。
-
新的 EpiKV 方法优化 LLM KV 缓存,提高效率和上下文长度
一篇新研究论文介绍了一种名为 EpiKV 的方法,用于优化大型语言模型中的 KV 缓存淘汰。与依赖注意力权重的先前方法不同,EpiKV 使用源自模型内部表征变化的“顿悟分数”。这种方法避免了计算注意力矩阵的需要,能够实现融合内核集成,并显著提高上下文长度的处理能力。实验表明,EpiKV 在 MATH-500 和 AIME-2024 等基准测试中表现与基线相当或更优,同时提供了显著的速度提升。
-
NVIDIA推出Agent Toolkit,助力构建专业化企业AI
NVIDIA 推出了 NVIDIA Agent Toolkit,这是一个全面的套件,旨在帮助企业构建针对其特定工作流程定制的专业化 AI 代理。该工具包包括 Nemotron 等开放模型、用于通过 NemoClaw 实现更安全代理行为的蓝图,以及用于安全运行的 OpenShell 运行时。该平台旨在使企业能够定制、控制和信任 AI 同事,从而加速生命科学、医疗保健和网络安全等领域的应用,早期采用者包括 Cadence、Synopsys…
-
AI模型难以通过思维链微调学习回溯搜索
一篇新的研究论文探讨了通过思维链(CoT)微调来教授AI模型复杂推理任务的局限性。研究发现,虽然模型可以轻松学习前向可计算的任务,但它们在涉及回溯搜索的过程(如密码算术)方面遇到困难。即使经过广泛的微调和诸如RL等各种方法,模型也未能有效地模仿搜索过程,而是学会了模仿特定步骤而未能理解底层逻辑。研究表明,对于需要搜索的任务,预先计算解决方案并专注于记忆和验证比试图教授搜索过程本身更有效。
-
NVIDIA 发布 Nemotron 以实现本地 AI 代理执行
NVIDIA 发布了其 Nemotron 模型,该模型专为推理和 AI 代理设计,现已免费在个人电脑上本地执行。该模型采用混合架构,结合了 Mamba 和 Transformer 层以及混合专家(mixture-of-experts)方法以提高效率。用户可以在笔记本电脑上运行较小版本,如 Nemotron Nano,或在更强大的台式机上运行,Ollama 工具简化了安装和管理过程。
-
AgentCodec 库通过统一的可靠性技术将 LLM 推理成本降低 56%
研究人员开发了一个新库 AgentCodec,它统一了 28 种提高 LLM 可靠性和降低推理成本的技术。该库允许用户通过一个导入语句采用这些方法,无缝集成到现有的 OpenAI、Anthropic 和 Ollama API 调用中。通过自适应地将提示路由到最合适的技术,该库在基准测试中展示了约 56% 的显著成本降低,同时保持了相当的质量。
-
NVIDIA 发布 550B Nemotron 开源模型,性能超越美国竞争对手
NVIDIA 发布了 Nemotron,一个拥有 5500 亿参数的开源模型,在人工智能分析指数上获得了 48 分。这一性能超过了其他美国本土的开源模型。该模型的速度和能力尤为引人注目,特别是考虑到其规模和开源性质。
-
免费LLM的工具使用可靠性每周都在下降,需要持续重新测试
免费LLM的端点,即使名称保持一致,其在工具使用任务上的可靠性也会随着时间推移而悄然下降。每周的测试方案对于识别这些无声的故障至关重要,因为聊天基准分数并不能反映模型持续生成有效函数调用的能力。像Qwen3-next-80b和Qwen3-coder这样的模型在最近的工具使用测试中表现为零成功,而Nemotron目前则显示出高可靠性。
-
免费LLM工具使用不可靠,性能衰减快
每周对支持工具使用的免费LLM进行的可靠性测试显示,模型性能随时间显著衰减。Qwen3-next-80b和Qwen3-coder两个模型持续无法生成有效的工具调用,而Trinity模型在几周表现强劲后出现衰退。作者强调,聊天基准测试无法反映工具使用的可靠性,并主张频繁重新测试以防止生产环境中代理出现静默故障。
-
NVIDIA 推出用于自主工厂管理的 AI 蓝图
NVIDIA 推出了 Factory Operations Blueprint (FOX),这是一个用于创建自主工厂经理代理的参考设计。该系统旨在将来自机器、质量控制和运营警报的实时数据统一到一个单一的决策层中。FOX 使用 NVIDIA 的 NemoClaw 和 Nemotron 模型构建,能够开发和部署用于质量检查和物料运输等任务的专用 AI 代理,早期采用者包括 Foxconn 和 Pegatron。
-
为机器学习实验而建的家庭数据中心配备多块GPU
一位Reddit用户分享了他们的家庭数据中心的细节,该中心包含四个独立的系统,用于机器学习实验和代理编码。这些系统配备了Threadripper和Xeon等高端CPU,多块GPU,包括NVIDIA 3090 Ti、5070 Ti和5090,以及大量的内存。用户强调了运行多块3090 Ti卡的系统的稳定性,以及使用Intel工程样品进行嵌入式模型训练的成本效益,并指出最近的Qwen模型在编码任务中的实用性。
-
Grok V9-Medium 1.5T 模型目标是专家级推理
Grok V9-Medium 是一款新的 1.5 万亿参数前沿模型,定位为更广泛的企业人工智能堆栈中的专家级组件。它与 GPT-5.4 和 Gemini 3.1 Pro 等模型竞争,旨在通过深度推理和长上下文性能实现差异化。该模型的大规模部署需要复杂的基础设施,包括混合专家架构和仔细的推理调优,以管理成本和延迟。
-
开源大模型在 10 天 MMO 模拟中作为代理进行测试
一位开发者在持续的 MMO 模拟中运行了八个开源语言模型作为代理,进行了为期 10 天的测试,并收集了 93,000 个事件的数据集。实验表明,像 Mistral 8B 和 14B 这样的小型模型表现出了令人惊讶的状态感知和目标保持能力,在某些方面优于大型模型。值得注意的是,Qwen3 235B 模型独立开发了一种套利策略,通过利用游戏内经济积累了大量财富。
-
新工具链简化了 Crusoe Cloud 上 Nemotron 代理的部署
一个名为 crusoe-nemotron-harness 的新生产工具链已被开发出来,以解决 Crusoe Cloud Managed Inference 上 Nemotron 代理部署缺乏可观测性的问题。该工具将六个关键关注点——成本、主机访问、工具使用、输出漂移、延迟和预算合规性——整合到一个单一的上下文管理块和一个统一的 RunReport 中。该工具链旨在通过提供一致的 API 和报告格式来简化部署过程,使开发人员无需手动处理…
-
NVIDIA 和 Google Cloud 通过新工具推动人工智能开发者社区发展
NVIDIA 和 Google Cloud 正在扩展其联合开发者社区,旨在为超过 10 万名构建者提供人工智能工具和学习资源。该计划侧重于在 Google Cloud 中利用 NVIDIA 的人工智能平台,为 JAX 和推理优化提供新的学习路径。开发者现在可以在 Google Cloud 基础设施上利用 Google DeepMind 的 Gemma 和 NVIDIA 的 Nemotron 等模型,包括由 NVIDIA Blackwe…