NVFP4 MoE kernel

GB200 NVL72 服务成本通过软件升级削减 2.5 倍

针对 GB200 NVL72 的软件优化在不到 70 天的时间里将服务成本大幅降低了 2.5 倍。这些改进，特别是使用 CuTe-DSL 重写 NVFP4 MoE 内核并利用 NVL72 的高带宽铜背板，已应用于 Kimi 架构，该架构也为 xAI 的 Cursor Composer 2.5 提供支持。这一显著的成本降低凸显了软件工程对人工智能基础设施效率的影响。