English(EN) b11965: llama : remove simple batch splitting for DSV4 (#31300)

llama.cpp 更新 DeepSeek V4 模型支持并修复批次填充问题

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-28 15:25

llama.cpp 项目发布了更新版本 b11965，其中包含与 DeepSeek V4 和 V4.1 模型相关的多项更改。此次更新解决了简单批次的压缩器填充问题，并为奇数大小的批次添加了回归测试。此外，它还优化了 DSV4 的批次拆分，以确保 token 计算的一致性。 AI

影响在 llama.cpp 框架内提高了 DeepSeek V4 和 V4.1 模型的性能和兼容性。

排序理由这是对一个开源项目的软件更新，提高了与特定 AI 模型的兼容性，而不是新的模型发布或重大研究。

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 3 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 这是对一个开源项目的软件更新，提高了与特定 AI 模型的兼容性，而不是新的模型发布或重大研究。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

llama.cpp — Releases TIER_1 English(EN) · developer0hye · 2026-10-28 15:25

b11965: llama : 移除 DSV4 的简单批次拆分（#31300）

<ul> <li>llama : fix DSV4 compressor padding for simple batches</li> </ul> <p>Count actual tokens per sequence when padding compressor writes. Add a graph reuse regression test for odd-sized DeepSeek V4 and V4.1 batches.</p> <p>Assisted-by: Codex</p> <ul> <li>tests : cover multip…