英伟达的 NeMo Switchyard 将 AI 代理成本降低 74%，盖过了其新模型发布

英伟达发布了两项新技术：Nemotron 3.5 Lightning，一个开源权重语言模型；以及 NeMo Switchyard，一个用于 AI 代理的开源路由库。虽然 Nemotron 3.5 Lightning 是一个标准的 30B 参数模型，但 NeMo Switchyard 因其显著降低 AI 代理成本的潜力而备受关注。早期基准测试表明，NeMo Switchyard 可通过智能路由请求至更便宜的模型，将大部分调用避开昂贵的尖端模型，从而将成本降低高达 74%。 AI

影响 英伟达的 NeMo Switchyard 能够实现经济高效的多模型编排，可能重塑 AI 代理架构，并降低 AI 应用的运营成本。

排序理由 英伟达宣布了一款新的 AI 代理路由库，该库显示出显著的成本降低潜力，盖过了其新模型发布。[lever_c_demoted from significant: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

• Apache Software License 2.0
• Blackwell
• Claude
• DGX Spark
• Hopper
• Mamba-2
• NeMo Switchyard
• Nemotron 3.5 Lightning
• NVIDIA
• NVIDIA H100
• OpenAI
• OpenMDW-1.1
• Qwen 3.6 35B
• Rust

• 模型发布
• 基础设施
• 产品

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →