JSON Mode
PulseAugur coverage of JSON Mode — every cluster mentioning JSON Mode across labs, papers, and developer communities, ranked by signal.
-
LLM JSON 解析：严格模式会降低推理能力，两步流水线提供解决方案
虽然 LLM 的“JSON 模式”最初似乎解决了解析问题，但它在生产环境中通常会导致 4-5% 的失败率。转向使用约束解码的“严格结构化输出”可将此类失败显著降低到 0.1% 以下，但可能会使推理准确性降低 10-30%。提出的解决方案涉及一个两步流水线：先进行无约束推理，然后进行约束提取，以确保准确性和可靠性，同时还强调需要检查截断的输出。
-
专家警告：LLM的JSON模式会因限制推理而降低准确性
尽管可以确保语法上有效的输出，但在大型语言模型中使用JSON模式可能会无意中降低其准确性和推理能力。这是因为JSON模式强制执行严格的模式，这限制了模型使用中间令牌进行推理的能力，并且在数据缺失时可能迫使它编造信息。为缓解此问题，开发人员应在模式中优先考虑推理字段而非数据字段，明确表示未知值，并保持模式简单，可能对复杂任务使用两阶段方法。
-
提示工程在LLM成本效益方面超越微调
在2026年，对于大多数LLM应用而言，提示工程通常比微调更具成本效益且更易于迭代。像DeepSeek V4 Flash这样更便宜的前沿模型、更大的上下文窗口以及可靠的结构化输出方法的进步，使得基于提示的定制更加可行。微调仍然是满足特定需求的专业工具，但其在数据准备、训练和托管方面的高昂成本，对于常见用例而言，往往会超过边际收益。
-
JSON Schema导致7个开源模型工具调用失败
Focus Technology的AI实验室最近发布的一篇论文显示，在请求中附加JSON Schema会导致开源模型完全无法调用工具。这个问题影响了七种不同的开源模型，当存在JSON Schema时，工具调用的抑制率高达100%。论文解释说，这是由于`response_format={"type":"json_schema"}`设置，它将Schema编译成一个token位掩码，在采样开始之前就有效地阻止了模型选择工具选项。
-
提示词工程手册详述5种关键模式，以实现可靠的AI代理
Kunal Ganglani开发了一本包含100多个可重用提示词的提示词手册，这些提示词被归类为五种关键模式，可显著提高AI输出的质量和可靠性。这些模式包括用于复杂推理的思维链（Chain-of-Thought）、用于风格和格式的少样本提示（few-shot prompting）、用于分解任务的提示链（prompt chaining）、用于AI辅助提示优化的元提示（meta-prompting）以及用于确定性结果的约束输出提示（con…