华为昇腾宣布为其 Moonshot AI 的 Kimi K3.1 Pro 大语言模型提供零日支持。此集成可在其 Atlas A3 和 Ascend 950 SuperPoD 硬件上使用。通过 vLLM Ascend 和 SGLang 实现的支持,使得这个拥有 2.8 万亿参数的强大模型能在华为的基础设施上高效运行。 AI
影响 支持在大规模语言模型在专用 AI 硬件基础设施上的高效部署。
排序理由 这是一项针对现有 LLM 的硬件集成公告,并非来自前沿实验室的新模型发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →