DeepSeek v3 引领开源模型，Baseten 实现任务关键型推理

DeepSeek v3 是一款新的 6710 亿参数的混合专家模型，现已发布，是目前性能最佳的开源模型。服务如此大的模型带来了巨大的挑战，但推理初创公司 Baseten 已成功部署了 DeepSeek v3，使用了 NVIDIA H200 GPU 和 SGLang 框架。此次部署强调了大规模运行任务关键型 AI 推理的关键因素，包括模型性能、高效的服务基础设施和强大的编排能力。 AI

排序理由 来自重要实验室（DeepSeek）的新开源模型发布，在基准测试中取得了顶级性能。

在 Latent Space Podcast 阅读 →

• Amir Haghighat
• Baseten
• DeepSeek v3
• Gemini 2
• Hunyuan-Large
• MiniMax-Text
• Mixture-of-Experts
• NVIDIA H200
• SGLang
• Tencent
• X.ai
• Yineng Zhang

• 模型发布
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →