deepseek-ai/DeepSeek-V4-Pro-DSpark

DeepSeek 发布 V4 模型，支持百万 Token 上下文并采用 MoE 架构 · 跟踪 3 个来源

DeepSeek 发布了其 DeepSeek-V4 系列的预览版本，其中包括两个混合专家（MoE）语言模型：DeepSeek-V4-Pro 和 DeepSeek-V4-Flash。这两个模型都支持令人印象深刻的百万 Token 上下文长度，并采用了混合注意力机制等架构升级以提高效率，以及流形约束超连接（mHC）以增强稳定性。这些模型可通过 Transformers、vLLM 和 SGLang 等各种库和推理提供商使用，并提供了集成说明。