Together 发布了其推理平台的更新,旨在帮助用户将 Kimi K3 等新模型扩展到生产环境。新功能包括能够运行影子流量,在不影响用户的情况下测试模型在实时提示下的性能,以及通过单个端点同时 A/B 测试两个模型。这些工具旨在为部署和评估新 AI 模型提供更顺畅的过渡。 AI
影响 为在生产环境中更轻松地部署和测试新 AI 模型提供了工具。
排序理由 该条目描述了推理平台的更新,这是一个用于部署 AI 模型的工具。
在 X — Together (inference / OSS) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →