llama.cpp 项目发布了 b11888 版本,显著改进了其语法解析能力。此次更新解决了递归深度限制问题,该问题曾导致 GLM-4.7-Flash 和 Laguna-S-2.1 等模型中的某些长 token 被拒绝。新实现采用迭代方法跟踪被拒绝的候选者,从而加快了 GLM-4.7、Laguna、Qwen3.6 和 Gemma-4 等模型的语法采样速度。 AI
影响 提高了在本地运行特定 LLM 的效率,可能使这些模型在消费级硬件上得到更广泛的应用。
排序理由 这是一个用于运行 AI 模型的工具的软件发布,而不是一个新的模型发布或研究论文。
- Brendan Carr
- Gemini
- iPad
- iPhone Duo
- John Gruber
- Netflix
- Tesla Roadster
- The Vergecast
- Alde Rojas
- David
- Gemma-4
- GLM-4.7
- GLM-4.7-Flash
- Laguna
- Laguna-S-2.1
- llama.cpp
- Nilay Patel
- Pascal
- Qwen3.6
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →