InferenceX
PulseAugur coverage of InferenceX — every cluster mentioning InferenceX across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
SemiAnalysis 修订摩根士丹利的 GenAI ROIC 计算
SemiAnalysis 正在批评一份关于生成式人工智能投资回报率 (ROIC) 的摩根士丹利报告，并建议调整资本支出计算。虽然摩根士丹利的报告总体上看好 GenAI ROIC，但 SemiAnalysis 认为该报告对 IT 资本支出和数据中心资本支出的假设不准确。SemiAnalysis 提出了这些支出的替代数字，这将略微降低预测的 ROIC，但仍表明回报强劲。
-
SemiAnalysis 讨论 DeepSeek V4、华为 Ascend NPU 和 LLM 框架竞争
SemiAnalysis 发布了一期节目，讨论了 DeepSeek V4 模型和华为 Ascend NPU 的性能。该节目题为“第 17 集 - DeepSeek V4 和华为 Ascend NPU 性能 (InferenceX)”，由 @noslawextratost 发表见解。此外，讨论还涉及 vLLM 和 SGLang 之间的竞争格局，强调了竞争如何促进该领域的有益进步。
-
DeepSeek V4 凭借新变体实现 100 万上下文，架构变更细节披露 · 已追踪 2 个来源
SemiAnalysis 发布了一期讨论 DeepSeek V4 的节目，重点介绍了其支持一百万 token 上下文窗口的两个变体。由 kimbochen 主持的讨论深入探讨了模型的架构变更，包括注意力机制和一个旨在加速计算的 Mega Mixture-of-Experts (MOE) 系统。该节目还涉及与华为 Ascend NPU 和 InferenceX 的性能比较。
-
SemiAnalysis 详细介绍 DeepSeek V4 的集成和性能
SemiAnalysis 的 InferenceX 团队发布了关于集成 DeepSeek V4 模型（包括对其架构的修改和 MegaKernel 的概念）的详细信息。该团队还分享了 DeepSeek V4 在各种硬件加速器上的初步性能基准，特别提到了华为 Ascend NPU。