PulseAugur
实时 10:12:02
中文(ZH) 阿里云:真武芯片超节点已成功适配Qwen3.8,上线百炼提供推理服务

阿里云证悟芯片超算节点运行千问3.8B万亿参数模型

阿里云已成功将其2.4万亿参数的大语言模型Qwen3.8B适配到其证悟M890超算节点上运行。此次集成在阿里云的百炼平台上可用,标志着超算节点首次支持如此规模的模型,并提供增强的推理服务。证悟M890芯片及其超算节点实例具有高速互联和海量内存,针对大规模MoE模型进行了优化,有望提高推理效率并降低成本。 AI

影响 能够高效推理超大规模模型,可能降低成本并加速采用先进的AI能力。

排序理由 来自主要云服务提供商的基础设施和模型集成新闻。

在 量子位 (QbitAI) 阅读 →

AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →

阿里云证悟芯片超算节点运行千问3.8B万亿参数模型

报道来源 [3]

  1. 量子位 (QbitAI) TIER_1 中文(ZH) · 量子位的朋友们 ·

    阿里云:‘甄武’芯片超算已适配Qwen3.8,在‘百炼’上提供推理服务。

  2. 36氪 (36Kr) TIER_1 中文(ZH) ·

    阿里云:‘甄武’芯片超算已适配Qwen3.8,并在‘百炼’上提供推理服务。

    36氪获悉,7月23日,阿里真武M890超节点已成功适配Qwen3.8,并上线阿里云百炼平台提供模型推理服务,这是国内首个成功运行超2万亿参数大模型的超节点。

  3. 雷峰网 (Leiphone) TIER_1 中文(ZH) ·

    阿里云:‘甄武’芯片超算已适配Qwen3.8,在‘百炼’上提供推理服务。

    <p>7月23日消息,阿里真武M890超节点已成功适配Qwen3.8,并上线阿里云百炼平台提供模型推理服务,这是国内首个成功运行超2万亿参数大模型的超节点。</p><p>&nbsp;</p><p>Qwen3.8是阿里最新旗舰模型,参数规模高达2.4万亿,跑通这一规模的模型需要将参数分散到几十张甚至上百张高速互联的GPU卡,让万亿参数“跑得又稳又快”。然而,普通AI集群因通信带宽的局限,无法满足高吞吐、低延迟、高并发的需求。</p><p>&nbsp;</p><p>真武M890是平头哥新一代训推一体AI芯片,原生支持FP32到FP4等多种数据精度,可应用于高…