Ascend NPUs
PulseAugur coverage of Ascend NPUs — every cluster mentioning Ascend NPUs across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新基准AscendGYM评估昇腾NPU上LLM内核优化
研究人员推出AscendGYM,这是一个旨在评估昇腾NPU上大型语言模型内核优化的新基准。与之前侧重于内核生成的基准不同,AscendGYM强调使用真实世界工作负载配置来优化现有实现。它包含48个内核,分为三个难度级别,并支持两种评估模式:模型评估和模型工具包评估。还提出了一个新的指标——加速-Token分数(STS),以平衡性能提升与计算成本。
-
TrainBridge 使用 GPU 编译洞察优化 NPU 训练
研究人员开发了 TrainBridge,一种在 Ascend 神经网络处理单元 (NPU) 上优化训练效率的新型智能体方法。该方法利用成熟的 GPU 编译栈中的优化洞察来指导 NPU 程序重写,旨在减少碎片化计算和执行开销。实验表明,TrainBridge 在包括 LLM 预训练和图像分类在内的各种工作负载上平均可实现 1.7 倍的加速,在 Modded-NanoGPT 速度运行中接近 2.0 倍。
-
OpenPangu LLM 量化在 Ascend NPU 上的研究:8 位无损,4 位导致 1B 模型性能下降
一项新研究调查了在 Ascend NPU 上部署 OpenPangu 大型语言模型时,各种训练后量化方法的有效性。研究人员发现,8 位仅权重量化对于 1B 和 7B 参数模型几乎是无损的。然而,4 位量化在 1B 模型上表现出更显著的性能下降,尤其是在推理和编码任务中,而对于 7B 模型则仍然可行。研究还强调了超低精度量化的挑战,大多数 2 位和二值化设置导致性能接近随机。
-
华为 HiFloat4 减少 AI 训练错误;CLI 工具获得关注
华为开发了一种名为 HiFloat4 的新 4 位数据格式,据报道,与 MXFP4 相比,在 Ascend NPU 上进行 AI 模型训练时,其错误率降低了 33%。这一进展被视为技术竞赛中的重要一步。此外,命令行界面 (CLI) 工具正作为比专用 MCP 服务器和复杂 ETL/搜索系统更灵活、更高效的 AI 代理集成替代方案而出现,挑战着当前的发展范式。