PulseAugur
中
实时 19:29:45
English(EN) llama-server ignores the response_format its own README shows, and returns 200

llama-server 错误未能强制执行 JSON schema 约束

作者 PulseAugur 编辑部 · [1 个来源] ·

llama-server 工具，特别是 b10868 版本，存在一个错误，当 `response_format` 设置为 `json_schema` 且 schema 直接嵌套在 `response_format` 下时，它未能强制执行 schema 约束。服务器没有应用提供的 schema，而是返回不受约束的文本，这与未指定 `response_format` 时的情况类似。这个问题特别隐蔽，因为服务器仍然返回 HTTP 200 状态码且不记录任何错误，使其难以检测。2025 年 3 月的一次先前修复解决了类似的嵌套 `json_schema` 结构的问题，但直接的 `response_format.schema` 情况仍未解决。 AI

影响 此错误可能导致依赖 llama-server 进行结构化输出的应用程序出现意外的数据格式问题。

排序理由 关于特定工具功能的错误报告。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

llama-server 错误未能强制执行 JSON schema 约束

本文如何被排名

Signal score
28 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
关于特定工具功能的错误报告。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
product
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · The Homelab Postmortem ·

    llama-server 忽略其自身 README 中显示的 response_format，并返回 200

    <p><strong>TL;DR</strong>: <code>tools/server/README.md</code> gives <code>{"type": "json_schema", "schema": {...}}</code> as an example of schema-constrained output. On a build from this week the reply to that form is <strong>byte-identical</strong> to the reply when you send no…

相关实体

相关话题