gemma-3-1b-it-Q4_K_M
PulseAugur coverage of gemma-3-1b-it-Q4_K_M — every cluster mentioning gemma-3-1b-it-Q4_K_M across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
llama-server API 未能标记截断的回复，存在代理错误风险
llama-server 的 Responses API 错误地将截断的回复和工具调用标记为已完成，而 chat completions 端点则能正确识别基于长度的截断。这种行为可能导致客户端将不完整的回复视为已完成，或处理格式错误的工具参数。该问题源于 Responses API 如何将请求转换为 chat completions 格式，但未能传播 "finish_reason" 状态，可能导致依赖此 API 的代理误解模型输出。
-
llama-server 漏洞导致请求延迟，现已修复
llama-server 的 HTTP 处理中存在一个漏洞，具体是在其使用的 cpp-httplib 库中，这可能导致某些用户请求出现显著延迟。当大量保持连接打开时，新连接的请求可能长达 42 秒才被处理。此问题很少发生，一次只影响一个连接，并且经常在刚启动的服务器上出现。由于 cpp-httplib 的修复，该问题已在最新版本的 llama.cpp (b11737 及更高版本) 中得到解决。
-
Llama-server 错误报告推测解码时的 logprobs
llama-server 软件中的一个 bug 导致推测解码错误地将生成 token 的对数概率报告为零。此问题会影响各种模型和配置，包括 Gemma 3B，当启用推测解码时。虽然生成的文本看起来正常，但对数概率数据不准确，可能会影响依赖这些值的下游应用程序。这个问题不容易被检测到，因为零对数概率可能自然发生，并且服务器不会指示这些是占位符值。
-
llama-server 错误未能强制执行 JSON schema 约束
llama-server 工具，特别是 b10868 版本，存在一个错误，当 `response_format` 设置为 `json_schema` 且 schema 直接嵌套在 `response_format` 下时，它未能强制执行 schema 约束。服务器没有应用提供的 schema，而是返回不受约束的文本，这与未指定 `response_format` 时的情况类似。这个问题特别隐蔽，因为服务器仍然返回 HTTP 200 状…