NVIDIA 正在强调能效比作为人工智能基础设施的关键指标，尤其是在代理式人工智能和混合专家（MoE）架构兴起的背景下。该公司重点介绍了其 Blackwell NVL72 平台，据称与上一代 Hopper 相比，能效比提高了 25 倍。这种效率是通过硬件和软件的极端协同设计实现的，包括像 NVLink Switch 这样的专用组件和优化的推理软件 TensorRT-LLM，旨在在功率限制内最大化令牌吞吐量并最小化成本。 AI
影响 强调了功率效率在扩展人工智能中的关键作用，影响着基础设施投资和硬件设计选择。
排序理由 来自一家公司讨论其自身产品和战略的博客文章，而不是新发布或外部分析。
- agentic AI
- AI infrastructure
- Blackwell NVL72
- DeepSeek V4
- DynoSim
- GB300 NVL72
- Hopper
- Mixture-of-Experts (MoE)
- NVIDIA
- NVLink Switch
- performance per watt
- SGLang
- TensorRT-LLM
- Vera Rubin
- vLLM
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
