一位 Reddit 用户为 27B 语言模型开发了一种自定义的“高”推理模式，旨在弥合现有“低”和“xhigh”模式之间的差距。发现“中”模式会降低性能，促使用户尝试混合提示。由此产生的“高”模式产生的推理输出比“xhigh”短，但质量良好，使模型更高效、更易于使用。 AI
影响 为寻求 27B 模型更高效推理的用户提供了潜在的改进。
排序理由 用户对现有模型行为的修改，而非新模型发布或重要研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
用户为 27B LLM 创建自定义“高”推理模式
报道来源 [1]
-
试用此“高”推理模式（27B，在VLLM上测试）
<!-- SC_OFF --><div class="md"><p>After a lot of tweaking, I have come to the conclusion that 27B lacks a reasoning mode that is between low and xhigh.</p> <p>The "medium" mode isn't actually medium, it erases the explicit instructions to the model. When medium is enabl…