ShapeCraft
PulseAugur coverage of ShapeCraft — every cluster mentioning ShapeCraft across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
ShapeCraft 库提供了实用的 LLM 结构化输出用例
ShapeCraft 是一个用于 LLM 结构化输出的库，它提供了超越简单数据提取的实用应用程序。通过分配类别和优先级，它可以将非结构化的支持工单转换为可操作的数据；通过定义供应商、总计和项目符号的模式，它可以解析收据和发票等复杂文档。该库还通过确保提取和验证所有必需字段来促进表单驱动的聊天机器人，并支持使用 GBNF 语法进行离线模型执行，以保证输出约束。此外，ShapeCraft 还支持具有独立重试和并发控制的文件批量处理，确保文…
-
开发者因 API 差异重写三次 LLM 工具调用逻辑
一位开发者发现自己为了适应不同的 LLM 提供商（OpenAI、Anthropic 和 Ollama）而三次重写了相同的工具调用逻辑。每个提供商在工具集成方面都有不同的 API 格式，需要单独实现参数解析和响应处理。这导致了代码重复和一个集中的 switch 语句，开发者认为这是不理想的。当一个模型将订单 ID 作为数字而不是字符串传递时，出现了一个严重的 bug，导致下游函数出现 TypeError，这凸显了模型在到达关键内部服务之…
-
使用 GBNF 语法改进本地 LLM 分类
一位开发者在使用本地 3B 量化模型 llama-3.2-3b-instruct.gguf 对文档进行五类分类时遇到了问题。最初使用简单提示词的尝试导致输出不一致，例如出现句末的句点或被包含在句子中的标签，这使得批量处理不可靠。随后采用的通过正则表达式验证失败输出来重试的方法提高了准确性，但显著增加了仅 CPU 硬件上的处理时间。
-
开发者使用 ShapeCraft 构建多模型 AI 流水线进行内容审核
一位开发者详细介绍了他们如何为内容审核构建一个多模型 AI 流水线，该流水线使用三个不同的模型来处理流程的不同阶段。流水线始于一个轻量级模型进行初步分类，接着是一个更强大的模型用于起草回复，最后是一个严格的审查模型，以确保最终输出的准确性。开发者选择使用 ShapeCraft 库的 agentic 功能构建自定义解决方案，而不是 LangGraph 等完整的 agent 框架，认为它更适合他们固定的、顺序性的工作流程。
-
AI 结构化输出：正确性 vs. 真实性
作者认为，虽然像 JSON Schema 这样的结构化输出库在确保数据格式正确性方面非常有效，但它们并不能阻止 AI 幻觉或保证所提供信息的准确性。构建支持各种 LLM 提供商的 ShapeCraft 库，凸显了结构验证与语义验证是不同的。作者认为，AI 工具的下一个前沿领域是开发能够为生成的信息提供证据、置信度分数和来源归属的系统，从而超越单纯的结构正确性。
-
开发者将 LLM 验证错误泄露到聊天中，通过分离关注点解决
一位开发者遇到了一个问题，即一个旨在从用户对话中提取结构化数据的槽填充式入职机器人，将内部验证错误泄露到了聊天界面中。发生这种情况是因为机器人将对话流程与模式验证混淆，导致原始错误消息显示给用户，而不是友好的提示。开发者通过将对话方面与最终验证步骤分开来解决此问题，确保错误在内部处理，不会暴露给用户。
-
开发者为ShapeCraft添加GBNF语法支持，以控制本地LLM输出
一位开发者通过添加对GBNF语法的支持，增强了ShapeCraft结构化输出库，使用户能够让本地LLM生成严格遵循预定义格式的输出。此新功能通过`gbnf`模式类型实现，可防止模型产生格式错误的响应，这是本地部署中常见的问题。该实现包括一个原生的`llama.cpp`后端，可在令牌级别强制执行语法，并为OpenAI和Groq等其他后端提供尽力而为的方法，其中语法被注入到提示中，并对输出进行验证。
-
开发人员利用 LLM 和预构建模式生成 FHIR 数据
一位开发人员为医院客户在 TypeScript 中手动创建符合 FHIR R4 标准的 Patient 资源模式时遇到了困难，发现官方规范复杂且难以正确实现。经过两天无果的努力，并担心数据准确性后，该开发人员发现 shapecraft 库提供了预构建的 FHIR 模式。通过将 shapecraft 与 GPT-4o-mini 等 LLM 集成，开发人员能够快速生成经过验证的 FHIR 资源，显著缩短了开发时间并提高了数据完整性。
-
新的库 ShapeCraft 解决了超越 JSON Schema 的 AI 语义正确性问题
一个名为 ShapeCraft 的新开源库旨在通过解决 JSON Schema 在生产环境使用中的局限性来提高 AI 系统的可靠性。该库的创建者认为，虽然 JSON Schema 确保了结构上的正确性，但它不能保证语义上的准确性，这意味着 LLM 可以返回事实错误或幻觉的有效 JSON。ShapeCraft 在 OpenAI 和 Anthropic 等多个 LLM 提供商之间提供统一的 API，暴露了它们结构化输出能力的实际保证级别，…
-
LLM 结构化输出：提供商在原生验证保证方面存在差异
开发人员在使用 LLM 生成的结构化输出（尤其是 JSON）时遇到挑战，因为模型不能始终遵循指定的格式。虽然 OpenAI 和 Groq 等一些提供商提供原生模式强制执行，但 Anthropic 等其他提供商则不然，这可能导致生产环境失败。一种稳健的方法不仅包括解析输出，还包括实施多层验证策略，该策略结合了提供商功能、模式约束和应用程序级别的业务规则检查，以确保可靠的数据流。