json-schema
PulseAugur coverage of json-schema — every cluster mentioning json-schema across labs, papers, and developer communities, ranked by signal.
17 天有情绪数据
-
开发者表示结构化输出是AI可靠性的关键
对于超越简单文本显示的AI功能,开发者应强制执行结构化输出,并根据预定义的模式进行验证。这种方法可以缓解生产中常见的问题,例如解析错误、字段名称不正确以及模型可能编造数据或返回意外格式的静默故障。实施模式验证、为固定选项使用枚举以及为验证失败定义清晰的错误处理(例如,重试、人工队列、警报)可以显著提高AI的可靠性。即使对于输出旨在“仅为文本”的功能,将其包装在具有答案、引用和拒绝原因字段的结构化格式中,也能使输出更易于测试和管理。
-
Solon AI发布用于从LLM中提取结构化数据的框架
Solon AI发布了4.0.5版本,这是一个利用大型语言模型从非结构化文本中提取结构化数据的框架。该系统通过允许开发人员将目标数据结构定义为纯Java类型,解决了模型输出装饰、模式不一致和供应商锁定等常见问题。Solon AI随后生成一个JSON模式,将其注入LLM提示,提取模型的响应,并将其反序列化为指定的Java bean,为企业数据处理提供了更健壮的解决方案。
-
MCP x-mcp-header 验证确保正确的工具模式格式
MCP x-mcp-header 验证机制确保在 Streamable HTTP 传输中使用的工具模式格式正确并遵循特定规则。此验证可防止接受无效模式(例如带有错误后缀或不支持类型的模式),从而避免在后续过程中出现更难诊断的故障。该系统将选定的工具参数复制到 Mcp-Param-* 标头中,中间件和服务器随后可以针对 JSON-RPC 主体对其进行处理和验证。
-
聊天机器人的LLM API成本:质量门槛优于令牌速率
在为客户支持聊天机器人选择LLM API时,最具成本效益的选择取决于每条可接受答案或目录更新的最低成本,而不仅仅是宣传的令牌速率。这需要一个严格的测试过程,所有候选LLM处理相同的一组代表性数据,并根据预定义的质量门槛和模式要求验证其输出。最终决定应考虑成本、延迟、重试率以及生成结构化、可验证输出的能力,确保所选模型真正满足应用程序的特定需求和安全标准。
-
AI提供商对JSON Schema支持的差异给结构化输出迁移带来复杂性
由于JSON Schema的实现方式不同,在AI提供商之间迁移结构化输出模式面临重大挑战。虽然核心结构关键字如'type'和'properties'通常得到支持,但值范围断言(例如'minimum'、'maxLength')和递归模式常常被忽略或导致拒绝。关键字冲突,特别是'additionalProperties',需要仔细处理,因为OpenAI的严格模式要求设置为'false',而其他提供商可能不支持或有不同的要求。
-
按故障模式组织LLM提示回归测试,而非按功能
本文提出了一种新的按故障模式组织提示回归套件的方法,而不是按应用功能组织。这种方法旨在解决基于功能的套件中存在的重复和信息不足的问题。通过按故障类型(如格式错误、指令丢失或捏造)对测试进行分组,开发人员可以更有效地识别和解决与提示相关的问题。
-
LLM结构化输出依赖JSON模式和验证器,而非提示
为了提高LLM输出的可靠性,开发人员正在使用JSON模式和验证器来实现结构化输出契约。这种方法通过拒绝格式错误的响应并将验证错误反馈给模型进行纠正来强制执行数据完整性。关键策略包括使用枚举来限制文本字段,向LLM提供逐字错误消息,并将温度设置为零以最小化随机性,确保由验证器而非模型来决定真相。
-
LLM API:文本分类优先考虑 JSON 可靠性和成本
多篇文章讨论了将 LLM API 用于文本分类和标记任务的实际考虑因素,强调可靠性和成本效益而非原始准确性。关键建议包括优先选择能够持续输出有效 JSON 的模型,使用封闭标签集以避免歧义,并实施强大的错误处理和重试机制。文章还强调了批量处理大型数据集的重要性以及进行每个租户成本归属以有效管理费用的必要性。
-
Node.js LLM 系统通过每租户调度和 JSON Schema 管理媒体工单
本文详细介绍了一个使用 LLM 处理媒体支持工单的系统,强调每租户调度和严格的 JSON Schema 验证用于分类标签。它提出了一种基于 Node.js 的接入处理程序,该程序在入队前使用租户 ID 和版本信息对工单进行规范化。调度策略可以是全局 FIFO、轮询或加权,具体取决于租户隔离需求和容量承诺。LLM 的输出必须遵守定义的 JSON Schema 进行路由,未知类别将被拒绝,以确保准确分类。
-
Zod Schema 强制执行 LLM 输出契约和验证
本文解释了如何在与大型语言模型交互时使用 Zod Schema 来强制执行数据契约,特别是针对结构化输出。文章详细介绍了单个 Zod Schema 如何服务于多种目的:定义模型的输入约束、验证模型的输出、生成 TypeScript 类型以及为模型修复提供精确的错误消息。该指南还涉及了 Zod 3 和 4 版本之间的差异,以及使用 JSON Schema 和 OpenAI 的 GPT-4o mini 等模型实现约束解码。
-
LLM 用于电商标签:强制执行精确 JSON 标签和分类法控制
为了使用 LLM 有效地对电商产品进行分类,将文档摄入与分类过程分开,并强制执行模型输出的严格 JSON 合约至关重要。开发人员应确保 LLM 仅返回给定分类法中的预定义标签,在将任何标签写入目录之前严格验证 JSON 响应。此方法通过将输出正确性和输入治理视为独立的验证门来防止数据中毒并维护数据治理。
-
AI发票处理优先考虑小模型和模式验证
本文详细介绍了一种使用AI高效处理供应商发票的策略,优先考虑成本效益和准确性。该方法首先使用一个小型、廉价的语言模型进行初步提取,然后根据JSON模式进行验证。只有未能通过此模式验证的发票才会被升级到更大型、更强大的模型或人工队列。这种方法通过避免不必要的昂贵模型调用来最大限度地降低成本,并通过依赖具体的验证规则而不是主观的难度评估来确保数据完整性。
-
LLM 网关 API 策略优先考虑便携式输出而非 token 成本
一位开发者概述了一种管理大型语言模型 (LLM) 集成的方法,该方法侧重于便携式结构化输出契约而非 token 定价。该方法涉及使用一个与 OpenAI、Claude 和 Gemini 兼容的网关 API,允许开发者将这些模型视为可互换的路由决策。关键不变因素包括拥有响应的 JSON 模式、根据该模式验证模型输出以及为审计持久化原始响应,这使得在不改变核心系统架构的情况下,能够灵活地更换 LLM 提供商。
-
AI工具集成失败,原因在于描述不当,而非服务器错误
一位开发者指出了AI模型与工具交互方式,以及这些工具通常如何被测试之间存在的关键差距。核心问题在于工具的线协议与其被模型感知到的实际接口之间的差异,后者仅包含工具名称、描述和JSON schema。诸如误导性的工具名称、欺骗性的可选参数以及缺乏可操作信息的成功消息等缺陷,即使在服务器本身技术上正确的情况下,也可能导致模型误用和重试。作者主张将工具集成视为一个评估问题,而非传统的测试问题,并强调需要从模型的角度阅读工具描述,并使用意图转…
-
Node.js 大语言模型审核:通过预检查的成本节约策略
一位 Node.js 开发者概述了一种经济高效的大语言模型审核策略,强调预分类检查和模式验证。该方法包括在将内容发送到紧凑型聊天模型之前估算 token 数量,并确保所有输出都符合严格的 JSON 模式。此方法旨在防止对超大提交进行无限制的模型调用,并为所有审核操作维护一个持久的审计跟踪,包括由于不可预测的处理成本而单独处理图像。
-
代理信任卡规范发布,旨在标准化 AI 代理身份
Edison Flores 发布了 ATC/1.0,即代理信任卡(Agent Trust Cards)的正式规范,以解决各种 AI 代理平台中相似概念的融合问题。该开放规范包含 10 项控制、一个 JSON schema、一个 Node.js 参考实现和测试向量,旨在为代理身份和信任建立标准。Flores 强调,规范的成功将取决于其采用情况,而非发明优先权,并以 SSL 和 TLS 为例。
-
Node.js 文本标注架构优先考虑可逆性和 JSON Schema
本文提出了一种在 Node.js 中进行内容审核式文本标注的架构,强调可逆性和可追溯性。它提倡使用具有严格 JSON Schema 的聊天补全,以确保输出可追溯和可重放,从而防止静默失败。所提出的系统将分类与策略执行分开,在 Node.js 边界验证响应,并将模糊的结果路由给人工审核,而不是自动允许它们。
-
LLM 使用严格的 JSON Schema 进行可靠的支持票证分类
开发人员正在使用带有严格 JSON Schema 的大型语言模型 (LLM) 来分类支持票证,确保输出结构化且可靠。这种方法包括为类别、标签和紧急程度等票证属性定义精确的 Schema,LLM 必须遵守。该过程包括仔细的模型选择、成本估算以及针对标记数据的验证,以保持准确性并防止错误分类。此方法旨在使 LLM 功能专注于分类,而传统的代码处理路由和策略执行,从而确保系统稳定且可预测。
-
开发者可视化LLM API成本并优化审核预算
开发者正在探索管理和可视化使用大型语言模型(LLM)API相关成本的方法,特别是在本地资源部署方面。一种方法是创建可视化图表,跟踪API价格随时间的变化,以帮助进行预算审批和谈判。另一种策略侧重于构建成本计算工具,模拟实际使用情况,考虑缓存、批量处理和区域差异(美国/欧盟)等因素,以确定最具成本效益的API网关。对于审核任务,建议开发者预先估算Token成本,使用具有严格JSON模式输出的紧凑模型,并将不确定的案例发送给人工审核,以控…
-
约束解码使 LLM 数学准确性降低 18%,同时修复了 JSON 输出
一项针对 Qwen2.5-7B 模型的受控实验表明,使用约束解码强制执行 JSON 模式合规性会显著降低数学准确性。虽然 Outlines 和 XGrammar 等工具成功地将 JSON 合规性从 0% 提高到 100%,但它们也导致数学准确性下降了 18.4 个百分点,从 79.6% 降至 61.2%。这表明强制输出结构的过程可能会干扰模型的推理能力,表明语法和语义正确性并非总是独立的。