Tencent 发布了其 HY3 模型,这是一个拥有 2950 亿参数的混合专家(Mixture-of-Experts)模型,据报道其性能可与比其活跃规模大五倍的模型相媲美或超越。在 128GB 系统上的早期用户基准测试表明,HY3 在输出质量相当或更好 的情况下,提供了 DeepSeek V4 Flash 代币生成速度的两倍。该模型需要通过 pull request 与 llama.cpp 进行特定集成,并调整系统 GPU 内存限制以获得最佳性能。 AI
影响 提供了一个新的高性能开源模型选项,有可能提高本地 LLM 部署的效率。
排序理由 开源模型发布的用户基准和性能报告。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →