PulseAugur
实时 02:30:32
中文(ZH) 清华系团队给大模型织了一张“智能算力电网”

智谱AI构建国产芯片的AI“电网”

智谱AI是一家由中国超级计算项目研究人员创立的初创公司,已开发出“智能算力网”来优化国产AI芯片的使用。他们的系统集成了包括NVIDIA GPU和中国AI加速器在内的各种异构计算资源,以标准化和高效地生产AI token。据报道,该平台通过优化推理过程并确保高可用性,将token生产成本降低了40%,并将吞吐量提高了高达50%。 AI

影响 这一发展可能显著降低AI token生产的成本和提高其可及性,通过更好地利用国内硬件,有可能加速AI在各行业的应用。

排序理由 这是AI基础设施的一个重要发展,专注于优化国内硬件和降低成本,这是行业的一个主要关切点。[lever_c_demoted from significant: ic=1 ai=0.7]

在 量子位 (QbitAI) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. 量子位 (QbitAI) TIER_1 中文(ZH) · 思邈 ·

    Tsinghua-affiliated team weaves an "intelligent computing power grid" for large models

    单位Token成本降低40%