小米发布了其 MiMo-V2.5-DFlash 模型，并将官方 DFlash 权重在 Hugging Face 上提供。该模型据称拥有超过 3000 亿个参数，以其性能著称，在特定硬件配置下运行速度约为 8-10 tokens/秒。此次发布尤为重要，因为它包含了独立的 MTP (Mixture of Tangent Experts) 权重，有望解决与 Llama.cpp 的兼容性问题，并可能使模型的推理速度加倍。 AI
影响 此次发布可能会提高大型模型的推理速度和兼容性，从而使从事类似架构的研究人员和开发人员受益。
排序理由 公司发布的模型权重，而非前沿实验室。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
