DeepVerse100L

云从科技发布高效推理AI芯片路线图

云端AI芯片开发商云从科技发布了其下一代AI推理芯片DeepVerse100P、DeepVerse100D和DeepVerse100L的路线图。这些芯片旨在优化AI模型推理的特定阶段，包括Prefill、Decode和Decode FFN，以提高系统效率并降低token生成成本。该公司计划在其IFWA软件栈支持下的高达10,000个GPU的异构集群中部署这些芯片，目标是实现“一亿token一分钱”的长期目标。