GBNF

开发者为ShapeCraft添加GBNF语法支持，以控制本地LLM输出

一位开发者通过添加对GBNF语法的支持，增强了ShapeCraft结构化输出库，使用户能够让本地LLM生成严格遵循预定义格式的输出。此新功能通过`gbnf`模式类型实现，可防止模型产生格式错误的响应，这是本地部署中常见的问题。该实现包括一个原生的`llama.cpp`后端，可在令牌级别强制执行语法，并为OpenAI和Groq等其他后端提供尽力而为的方法，其中语法被注入到提示中，并对输出进行验证。