Huawei Ascend 950
PulseAugur coverage of Huawei Ascend 950 — every cluster mentioning Huawei Ascend 950 across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
DeepSeek 开源推理引擎和 V4.1 Flash 模型
DeepSeek 已开源其生产服务背后的高性能推理框架 DeepInfer，以及 DeepSeek-V4.1-Flash-1017 模型权重。该框架基于 vLLM 构建，并融入了其他工具包的元素，支持投机解码和结构化输出等高级功能。虽然 DeepInfer 是为 NVIDIA 和华为硬件设计的，但复制 DeepSeek 的完整 API 服务需要构建独立的路由和缓存层，因为这些组件仍是专有的。
-
DeepSeek 发布开源推理引擎 DeepInfer，但存在硬件限制
DeepSeek 已根据 Apache 2.0 许可开源了其生产服务所使用的 DeepInfer 推理引擎。然而，该引擎官方仅支持 NVIDIA SM100 (B200/GB200) 数据中心 GPU 或华为昇腾 950 NPU，并且是为单个 763B 参数模型 DeepSeek-V4.1-Flash 设计的。该版本缺少对更广泛部署至关重要的功能，例如 KV 缓存系统和 HTTP 服务器，这使得大多数用户难以在 RTX 5090 等消…
-
DeepSeek 开源 DeepInfer 推理框架和 recipe 组件
DeepSeek 已开源其 DeepInfer 推理框架和负责请求与输出转换的 deepseek-recipe 组件。虽然 DeepInfer 为自托管 DeepSeek 应用提供了基础，但某些生产系统元素（如 KV 缓存管理和负载均衡）尚未开源。此次发布主要惠及拥有受支持硬件（如 NVIDIA SM100 GPU 或华为 Ascend 950 NPU）的开发者，并且对于交互式或延迟敏感型应用需要大量的基础设施工作。
-
DeepSeek 发布开源 DeepInfer 推理框架
DeepSeek 发布了 DeepInfer，一个在 Apache 2.0 许可下的开源推理框架。该框架专为大规模推理而设计，并为 DeepSeek 的生产服务提供支持，开源版本侧重于离线推理。它支持 DeepSeek-V4.1-Flash 等模型，并提供优化内核、高级并行技术和结构化输出功能。DeepInfer 针对 NVIDIA GPU 和华为 Ascend NPU，需要特定的硬件和软件配置才能编译和运行。
-
DeepSeek 开源 DeepInfer 推理引擎，支持 NVIDIA 和华为
DeepSeek 已开源其内部推理框架 DeepInfer，该框架用于为其包括 DeepSeek-V4.1-Flash 模型在内的生产服务提供支持。该框架以 Apache 2.0 许可证发布，专注于离线推理，并基于 vLLM 构建，增加了优化和自定义内核。值得注意的是，DeepInfer 在发布之初就同时支持 NVIDIA GPU 和华为 Ascend NPU，这在高性推理引擎中很少见。