llama.cpp 项目已集成对 Multi Token Prediction (MTP) 和 DSpark 的支持,特别是针对 DeepSeek-V4 Flash 模型。此增强功能可实现对更长序列的更有效处理,并可能在某些语言生成任务中提高性能。此次更新通过向 llama.cpp 存储库提交拉取请求完成,使用户能够利用 DeepSeek-V4 Flash 模型的新功能。 AI
影响 通过提高特定模型的序列处理效率,增强了本地 LLM 推理能力。
排序理由 对特定软件库 (llama.cpp) 的更新,为特定模型启用了新功能。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →