NVIDIA Dynamo
PulseAugur coverage of NVIDIA Dynamo — every cluster mentioning NVIDIA Dynamo across labs, papers, and developer communities, ranked by signal.
- 2026-07-07 product_launch NVIDIA launched Dynamo, a new open-source framework for LLM and agent inference. 来源
6 天有情绪数据
-
Together AI 详解使用 NVIDIA Blackwell 进行延迟优化
Together AI 详细介绍了其优化推理延迟的方法，重点介绍了 NVIDIA 技术与其自身平台的集成。他们的系统 Together ATLAS 利用 NVIDIA Blackwell、CUDA、TensorRT-LLM 和 Dynamo 以及自定义内核，为用户实现低于 100 毫秒的响应时间。这种优化对于实现更快的推理和长上下文代码生成至关重要。
-
NVIDIA Dynamo 框架加速大语言模型代理推理
NVIDIA 发布了 Dynamo，一个专为大语言模型 (LLM) 和代理系统推理设计的新开源框架。该框架解决了基于代理的 AI 不断变化的需求，这些需求涉及大量的顺序和并行模型及工具调用，这与 Triton 等旧推理服务器所设计的简单请求-响应模式不同。Dynamo 的 KV 路由功能专门用于加速这些复杂的代理工作流。
-
NVIDIA的软件栈在Blackwell平台上大幅降低AI推理每token成本
NVIDIA正在强调其为Blackwell平台优化的集成软件栈如何显著降低AI推理的每token成本。通过协调生产运营、应用加速和基础设施访问，NVIDIA的软件栈实现了复合性能提升，使DeepSeek V4等模型的每token成本降低高达5倍。Baseten、Cognition、Deep Infra和Together AI等公司正在利用包括TensorRT-LLM等库和NVIDIA Dynamo等框架在内的该软件栈，以提高效率和扩展…
-
新的DynAMO引擎提升了工业自动化中LLM智能体的效率
研究人员开发了DynAMO，一个旨在提高工业自动化中LLM驱动的智能体的效率和安全性的新引擎。DynAMO采用带有拓扑多智能体调度的“计划-然后执行”架构，创建可验证的工作流图，支持顺序和并行执行。在AssetOpsBench基准测试上的实验表明，DynAMO通过并行化和受控的推理重叠，可以将端到端延迟最多降低1.8倍，同时在故障注入下保持鲁棒性。
-
新研究增强了用于机器人和视觉推理的VLA模型
近期研究探索了增强用于机器人操作和通用视觉推理的视觉-语言-动作（VLA）模型。研究通过域随机化和照片级真实感渲染来研究模拟到现实的泛化能力，并提出诸如 Faithful Warm-Start 等方法，通过在强化学习前确保视觉保真度来提高VLM推理的稳定性。其他工作引入了置信度驱动的测试时强化学习，无需外部奖励即可实现自我改进，以及状态感知分词器，以更好地从离散代码中解码动作。此外，研究还检查了VLA模型中的架构冗余，发现语言骨干对于…
-
MiniMax AI 发布 4280 亿参数 M3 多模态模型
MiniMax AI 发布了其 M3 系列模型，参数量为 4280 亿。该公司表示，参数量被刻意限制，以便爱好者能够以较低成本在本地执行。M3 系列是能够跨文本、图像和视频进行推理的多模态模型。
-
新分析揭示了 GPU 饱和如何影响分解式 AI 推理
研究人员开发了一种用于分解式推理架构的博弈论分析，该架构将预填充和解码阶段分离到不同的 GPU 池中。该研究以 NVIDIA Dynamo 为案例研究，将该系统建模为三个耦合博弈，并识别出 GPU 饱和如何导致性能下降。基于此分析，设计了一个自适应控制器来优化路由和降低延迟，在降低无政府状态代价方面显示出显著的改进。
-
每瓦特令牌数将决定 2026 年 GPU 和散热方案
2026 年 AI 计算的主要瓶颈将从原始处理能力转向效率，特别是每瓦特令牌数。这是因为推理（目前占 AI 计算支出的绝大部分）本质上是一个功耗受限的问题，尤其是在数据中心功耗分配固定的情况下。因此，能够最大化每兆瓦特生成令牌数的最高效 GPU 将比那些拥有最高 FLOPS 的 GPU 更受青睐。服务软件和数值精度（如 FP8 和 FP4）的进步可以在不要求新硬件的情况下显著降低每令牌成本，提供比仅购买更多 GPU 更直接、更具成本效…
-
Cloud Native PDX 发布关于 Drasi 和 Dynamo 的聚会视频
Cloud Native PDX 发布了其5月聚会的视频，其中包括关于 Drasi 和 Dynamo 的演示。此次在波特兰举行的活动涵盖了 Kubernetes 和容器等主题。
-
NVIDIA 和 Google Cloud 通过新工具推动人工智能开发者社区发展
NVIDIA 和 Google Cloud 正在扩展其联合开发者社区，旨在为超过 10 万名构建者提供人工智能工具和学习资源。该计划侧重于在 Google Cloud 中利用 NVIDIA 的人工智能平台，为 JAX 和推理优化提供新的学习路径。开发者现在可以在 Google Cloud 基础设施上利用 Google DeepMind 的 Gemma 和 NVIDIA 的 Nemotron 等模型，包括由 NVIDIA Blackwe…
-
AMD 为 Nvidia 的 LLM 基准测试项目做出贡献
AMD 已为 Nvidia 的 AIPerf 项目做出贡献，该项目是 Nvidia Dynamo 专注于大型语言模型工作负载基准测试的一个子仓库。此次合作标志着跨供应商在 AI 性能评估方面迈出了重要一步。
-
NVIDIA Dynamo通过流式传输Token和工具调用增强实时Agentic AI
NVIDIA推出了Dynamo平台，旨在增强实时Agentic AI工作流。Dynamo使AI代理能够动态地将推理与外部工具调用相结合，从而促进更复杂、更具响应性的交互。这一进步旨在提高AI在多轮场景中实时解决问题和利用工具的能力。
-
AWS SageMaker AI 通过新的推理建议和 G7e 实例简化生成式 AI 部署
Amazon SageMaker AI 推出了新功能，以简化生成式 AI 模型的部署。该平台现在提供优化的推理建议，利用 NVIDIA AIPerf 缩短了开发人员数周的手动基准测试过程。此外，AWS 推出了由 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 驱动的 G7e 实例，提供了更高的内存和网络吞吐量，从而实现更快、更具成本效益的大型语言模型推理。