Together 将于周一发布其 Kimi K3 推理平台,提供帮助用户扩展新模型生产的功能。该平台将允许进行影子流量测试,在不影响用户的情况下测试模型性能,并对单个端点后的不同模型进行 A/B 测试。这些更新旨在促进向新 AI 模型的更平稳过渡。 AI
影响 提供用于在生产环境中扩展和测试 AI 模型的工具。
排序理由 推理平台的产品发布公告。
在 X — Together (inference / OSS) 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →