Together AI 推出了 Dedicated Container Inference，这是一项旨在优化自定义生成媒体模型的部署和执行的新服务。该平台提供生产级编排，包括自动扩展和监控，使团队能够直接将其 Docker 容器部署到 Together 的 GPU 基础设施上。该公司还宣布了其推理平台的显著性能改进，声称通过硬件优化、高级量化和推测解码，开源 LLM 的速度提高了 2 倍。此外，Together AI 现在提供对 DeepSeek-V3.1 的访问，这是一种支持快速响应和深度推理模式的混合模型，使复杂分析在生产环境中更加实用。 AI
影响 加速自定义 AI 模型的部署并提高开源 LLM 的性能，可能降低推理成本。
排序理由 该集群详细介绍了主要 AI 基础设施提供商的新产品发布和重大的性能声明。
- Creatify
- Dedicated Container Inference
- DeepSeek-R1
- DeepSeek-V3.1
- GPT-OSS
- Hedra
- Kimi-K2
- NVIDIA Blackwell
- Qwen3
- Together AI
- DeepSeek-V3.1-Base
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →
