一项针对 Qwen2.5-7B 模型的受控实验表明，使用约束解码强制执行 JSON 模式合规性会显著降低数学准确性。虽然 Outlines 和 XGrammar 等工具成功地将 JSON 合规性从 0% 提高到 100%，但它们也导致数学准确性下降了 18.4 个百分点，从 79.6% 降至 61.2%。这表明强制输出结构的过程可能会干扰模型的推理能力，表明语法和语义正确性并非总是独立的。 AI
影响 强制执行像 JSON 这样的严格输出格式可能会对 LLM 在复杂任务上的推理和准确性产生负面影响。
排序理由 关于 LLM 输出格式和准确性的受控实验。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
