presence_penalty

LLM frequency penalty 破坏 JSON 输出，导致数据丢失

一位开发者发现，在 LLM 配置中将 `frequency_penalty` 设置为非零值会导致结构化数据（如 JSON）被不正确地截断。这是因为旨在防止重复文本的惩罚机制会惩罚在结构化输出中频繁出现的常见 JSON 语法标记（逗号、冒号、引号）。随着 JSON 数组的增长，该惩罚可能导致模型过早地发出闭合括号 `]` 而不是逗号 `,`，从而生成有效的 JSON 但丢失了数据。开发者建议在结构化输出任务中将 `frequency_p…