llama.cpp 项目发布了 b11890 版本,该版本包含针对 deepseekv4.1 模型的后续修复和改进。主要变动包括使用 ggml_backend_tensor_copy 优化 DSV4 K 镜像的 kv-cache,将 Engram pad id 移至 llama_hparams,以及优化 llama_model 中的 token map。此外,该版本还移除了不必要的请求,并清理了与 deepseek41 模型类及其 matmul 操作相关的代码。 AI
影响 改进了 deepseekv4.1 模型在 llama.cpp 框架中的集成和性能。
排序理由 这是一个开源项目的软件发布,包含特定的模型集成改进,而不是前沿实验室发布的新模型。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →