PulseAugur
实时 09:35:43
English(EN) b9967: server: accept null sampling params (#25538)

llama.cpp 服务器接受 null 采样参数,与 OpenAI 规范保持一致

llama.cpp 项目发布了 b9967 版本,更新了其服务器功能。此次更新允许服务器接受 null 采样参数,例如 temperature 和 top_p。通过将 null 值视为空缺,客户端现在可以为这些参数发送 null 值,以使用服务器的默认设置,这与 OpenAI 的规范和现有约定保持一致。 AI

影响 对使用 llama.cpp 的开发者来说是次要改进,增强了与 OpenAI 参数处理的兼容性。

排序理由 这是针对特定工具的软件更新,并非前沿发布或重大的行业事件。

在 llama.cpp — Releases 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

llama.cpp 服务器接受 null 采样参数,与 OpenAI 规范保持一致

报道来源 [1]

  1. llama.cpp — Releases TIER_1 English(EN) · ServeurpersoCom ·

    b9967: server: accept null sampling params (#25538)

    <ul> <li>server: accept null sampling params</li> </ul> <p>Extend the schema validation to treat a null value as absent, so<br /> clients can send null on nullable params (temperature, top_p, ...)<br /> to request the server default. This matches the OpenAI spec and the<br /> jso…