开发了一种新的方法来校准 2 位量化语言模型，特别是 10GB 以下的 GGUF 格式，以用于代理编码任务。这些经过校准的模型，例如 Qwopus3.6-27B-Coder，在 SWE-rebench 基准测试上的通过率超过 60%。校准过程利用真实的代理编码日志和重要性矩阵，在显著减小模型尺寸和提高解码速度的同时保持性能。 AI
影响 使得能够在资源受限的硬件上更有效地部署能够执行编码任务的代理。
排序理由 关于模型量化和针对特定任务进行校准的新颖研究。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
