一位用户在使用本地运行的 Qwen 3.6 27B 模型时遇到了问题，特别是其在长任务中保持上下文的能力。当与 openCode 和 "oh my openagent" 工具一起使用时，该模型倾向于忘记指令，误解指令（例如，将压缩指令变成固定百分比），并将任务委托给错误的代理。用户尝试了各种量化级别和上下文大小，并寻求解决这些内存和指令遵循问题的建议。 AI
影响 突出了本地运行的大型语言模型在上下文保持和指令遵循方面存在的潜在局限性。
排序理由 用户报告了特定模型和工具配置的问题。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>Ok i'm sort of getting desperate here. So i am currently running Qwen 3.6 27B locally at Q8_K_XL and with only ~105k CTX at q8_0. Before i tried it at Q8_0 but with F16 KV cache.</p> <p>Of course i also tried lower quants down to Q6 and bigger co…