实体
Huawei Ascend NPU
Huawei Ascend NPU
PulseAugur coverage of Huawei Ascend NPU — every cluster mentioning Huawei Ascend NPU across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
SemiAnalysis 讨论 DeepSeek V4、华为 Ascend NPU 和 LLM 框架竞争
SemiAnalysis 发布了一期节目，讨论了 DeepSeek V4 模型和华为 Ascend NPU 的性能。该节目题为“第 17 集 - DeepSeek V4 和华为 Ascend NPU 性能 (InferenceX)”，由 @noslawextratost 发表见解。此外，讨论还涉及 vLLM 和 SGLang 之间的竞争格局，强调了竞争如何促进该领域的有益进步。
-
DeepSeek V4 凭借新变体实现 100 万上下文，架构变更细节披露 · 已追踪 2 个来源
SemiAnalysis 发布了一期讨论 DeepSeek V4 的节目，重点介绍了其支持一百万 token 上下文窗口的两个变体。由 kimbochen 主持的讨论深入探讨了模型的架构变更，包括注意力机制和一个旨在加速计算的 Mega Mixture-of-Experts (MOE) 系统。该节目还涉及与华为 Ascend NPU 和 InferenceX 的性能比较。
-
新型1.58位大语言模型家族推理内存减少6倍
新一代大语言模型BitCPM-CANN家族采用了一种新颖的1.58位三元量化技术。这些模型参数量从0.5B到8B不等，显著减少了推理内存占用，约为全精度模型的六分之一。在华为Ascend NPU上进行的训练过程引入的开销极小，吞吐量仅下降5%。