云端AI芯片开发商云从科技发布了其下一代AI推理芯片DeepVerse100P、DeepVerse100D和DeepVerse100L的路线图。这些芯片旨在优化AI模型推理的特定阶段,包括Prefill、Decode和Decode FFN,以提高系统效率并降低token生成成本。该公司计划在其IFWA软件栈支持下的高达10,000个GPU的异构集群中部署这些芯片,目标是实现“一亿token一分钱”的长期目标。 AI
影响 该路线图旨在显著降低AI推理成本,通过使token生成更具经济性,从而可能加速大规模AI应用的采用。
排序理由 AI芯片开发商发布新产品路线图。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →