Seph Martin
PulseAugur coverage of Seph Martin — every cluster mentioning Seph Martin across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
DeepInfer 与 vLLM:在 B200 GPU 上进行推理速度基准测试
DeepSeek 开发的新开源推理框架 DeepInfer 已在八个 NVIDIA B200 GPU 上与 vLLM 进行了基准测试。此次集成由 GPUStack 和一个名为 DeepInfer-server 的轻量级服务项目促进,旨在评估实际部署性能。在使用 DeepSeek-V4.1-Flash 模型进行的测试中,DeepInfer-server 报告了更高的输出吞吐量和更低的 token 间延迟,而 vLLM 在首 token …
-
DeepSeek 开源 DeepInfer 推理引擎,支持 NVIDIA 和华为
DeepSeek 已开源其内部推理框架 DeepInfer,该框架用于为其包括 DeepSeek-V4.1-Flash 模型在内的生产服务提供支持。该框架以 Apache 2.0 许可证发布,专注于离线推理,并基于 vLLM 构建,增加了优化和自定义内核。值得注意的是,DeepInfer 在发布之初就同时支持 NVIDIA GPU 和华为 Ascend NPU,这在高性推理引擎中很少见。
-
DeepSeek 开源支持华为 Ascend 硬件的 AI 基础设施
DeepSeek 已发布其 TileLang、DeepGEMM 和 DeepEP 基础设施组件的开源 Ascend 兼容版本。这些工具旨在优化 AI 模型在华为 Ascend 硬件上的性能。此次发布旨在促进 AI 社区内更广泛的采用和发展。
-
DeepSeek、华为开源工具挑战英伟达AI主导地位 · 跟踪10个来源
DeepSeek 和华为联合发布了一套开源工具,旨在增强华为 Ascend AI 芯片的软件生态系统。该计划旨在提供 Nvidia 的 CUDA 平台的 viable 替代方案,提供 TileLang 编程语言、高性能计算库(DeepGEMM、FlashMLA)和分布式通信库(DeepEP)等组件。此次合作的重点是使开发人员能够更轻松地充分发挥 Ascend 硬件的全部性能,在中国培养一个独立可控的人工智能芯片软件环境。
-
Cursor 开源 Mixture-of-Kittens 训练超级内核 · 跟踪 3 个来源
Cursor 已开源 Mixture-of-Kittens (MoK),这是一个专为 NVL72s 设计的 MoE 训练超级内核。该内核融合了专家混合模型的通信和计算,与现有基线相比,性能最高可提升 2.37 倍。MoK 目前支持 Cursor 上数万个 GPU 的模型训练,将端到端训练吞吐量提高了 1.41 倍。