开源 AI 推理和提供引擎 vLLM 发布了 0.32.0 版本。此次更新包含来自 363 位贡献者的 814 次提交,其中 121 位是新贡献者。此版本中的关键功能涉及结构化决策和通用解析器。 AI
影响 vLLM 的此版本为 AI 推理和提供引入了更新,可能提高了使用该工具的开发者的性能和能力。
排序理由 这是一个 AI 基础设施工具的软件发布,而不是前沿模型发布或重要的行业事件。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →