一项发表在 arXiv 上的新研究调查了语言模型即使在提供了 Pydantic 模式的情况下,为何仍会生成结构化输出失败。该研究引入了一个详细的模式符合性失败分类系统,并将其应用于 OpenAI 和 Anthropic 的九种模型配置近 4000 次生成尝试。研究结果显示,尽管总体有效率可能看起来相似,但失败的根本原因可能因模式约束和特定任务而异,其中 markdown 围起来的 JSON 输出经常包含隐藏的字段长度违规。 AI
影响 识别结构化输出生成中的关键失败模式,为大型语言模型应用的更好提示工程和验证策略提供信息。
排序理由 学术论文分析大型语言模型输出失败。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →