r/LocalLLaMA 上的一位用户发现 Laguna S 2.1 模型在推理阶段存在功能不正常的问题。该问题似乎与聊天模板有关,因为禁用一个名为 `preserve_thinking` 的特定设置会完全阻止推理。尽管开发团队最近对聊天模板进行了更新,但用户建议,当与 `llama.cpp` 一起使用时,Qwen 27B 聊天模板可以启用 Laguna S 2.1 的推理功能,这表明可能存在模板配置问题。 AI
影响 可能改善遇到 Laguna S 2.1 模型推理问题的用户体验。
排序理由 讨论特定模型的配置问题及潜在的修复方法。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →