DeepSeek 发布了其 V4 系列开源大语言模型,其中包括一个拥有 1.6 万亿参数的模型和一个拥有 2840 亿参数的较小 Flash MoE 模型。这些新模型声称在性能上可与顶级的专有 LLM 相媲美,同时显著降低了推理成本。实现这一效率的关键在于架构创新,例如混合注意力机制和使用较低精度的数据类型(FP8 和 FP4),从而能够以大大减少的内存实现百万级 token 的上下文窗口。 AI
影响 为开源模型设定了新的效率基准,有可能降低推理成本并为更广泛的应用实现更大的上下文窗口。
排序理由 一家知名 AI 实验室发布了新的开源 LLM,声称可与专有模型相媲美并实现了显著的效率提升。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →