DeepSeek推出了DSpark,一个旨在显著加速AI响应时间的新型推测性解码框架。据报道,该框架通过让一个较小的模型提出 token 候选,然后由一个较大的模型批量检查这些候选,将每个用户的响应速度提高了60%至85%。这项创新可能会减少对高端美国硬件的依赖,特别是对中国AI开发而言,并且标志着DeepSeek在完成巨额融资后取得的一项显著成就。 AI
影响 增强AI模型的效率,可能减少硬件依赖并加速开发。
排序理由 前沿实验室模型发布,附带系统卡 [lever_c_demoted from frontier_release: ic=2 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →