llama.cpp 项目发布了 b9967 版本,更新了其服务器功能。此次更新允许服务器接受 null 采样参数,例如 temperature 和 top_p。通过将 null 值视为空缺,客户端现在可以为这些参数发送 null 值,以使用服务器的默认设置,这与 OpenAI 的规范和现有约定保持一致。 AI
影响 对使用 llama.cpp 的开发者来说是次要改进,增强了与 OpenAI 参数处理的兼容性。
排序理由 这是针对特定工具的软件更新,并非前沿发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →