PulseAugur
实时 10:37:18
中文(ZH) 腾讯混元 AI Infra 新开源:HPC-Ops 推理核心算子全面升级

腾讯Hunyuan升级AI推理引擎;WPS文档集成微信助手

腾讯的Hunyuan AI发布了升级版的开源推理引擎HPC-Ops,旨在增强对动态工作负载的适应性并提高复杂操作的性能。此次更新解决了注意力延迟、内存传输成本和跨卡通信等关键工程瓶颈,在主流推理平台上显示出比现有开源替代品显著的性能提升。此外,WPS文档集成了微信助手功能,使移动用户能够直接在微信小程序中进行AI驱动的文档创建和数据处理。 AI

影响 增强AI推理效率,并将AI能力集成到流行的消费类应用中,可能增加AI的采用率。

排序理由 该集群包含一个AI模型的基础设施升级和一个与主要消息平台的产品集成。

在 36氪 (36Kr) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. 36氪 (36Kr) TIER_1 中文(ZH) ·

    Tencent Hunyuan AI Infra Newly Open-Sourced: HPC-Ops Inference Core Operators Fully Upgraded

    36氪获悉,为了进一步满足推理系统对动态业务负载的适应性、核心模块对复杂精度和高性能融合算子的需求,HPC-Ops 推出全新更新开源升级,包含五大关键算子。本次升级在主流推理平台上,有效缓解了Attention长尾延迟、显存搬运开销、跨卡通信等实际工程瓶颈,多项性能指标显著优于现有的开源基线。