Sarvam 推出了 Sarvam Token Factory,这是一个托管在印度的推理平台,通过单一的 OpenAI 兼容 API 提供对八个开源模型(open-weight models)的访问。该服务利用 NVIDIA B200 集群,旨在通过将流量保留在国内来为印度开发者提供低延迟推理。Sarvam 报告称,与 InferenceX 等竞争对手相比,其性能有了显著提升,包括更快的首个 token 响应时间和更高的吞吐量,特别是对其自家的 Sarvam 105B 模型。 AI
影响 为印度的开发者提供了本地化、低延迟的推理选项,有可能降低 AI 应用的成本并提高性能。
排序理由 特定公司推出的推理平台产品,而非大型实验室发布的前沿模型。
- Gemma 4 31B
- GLM 5.3
- India
- InferenceX
- Kimi K3.1 Pro
- Mumbai
- Nvidia B200
- Qwen 3.8-27B
- Sarvam
- Sarvam Token Factory
- vLLM
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →