研究人员开发了一种新的大型语言模型解码框架,以确保语法上有效的结构化输出,例如JSON、SQL和线性时序逻辑。该框架基于下推自动机,使用前瞻引导和可达性标签来修剪搜索范围并提高完成质量。实验表明,与现有方法相比,它具有持续的语法有效性和增强的性能。 AI
影响 增强了LLM生成结构化数据的可靠性,这对于代码和数据处理应用至关重要。
排序理由 该集群包含一篇详细介绍LLM解码新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Hugging Face
- JSON
- linear temporal logic
- pushdown automaton
- SQL
- Stay Within Your Bounds: Distance-Guided Decoding for Guaranteed Context-Free Grammar Compliance
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →