PulseAugur
实时 20:11:26
English(EN) Tencent-HY3 is the real deal on 128GB!

Tencent 的 HY3 模型表现强劲,代币生成速度翻倍

Tencent 发布了其 HY3 模型,这是一个拥有 2950 亿参数的混合专家(Mixture-of-Experts)模型,据报道其性能可与比其活跃规模大五倍的模型相媲美或超越。在 128GB 系统上的早期用户基准测试表明,HY3 在输出质量相当或更好 的情况下,提供了 DeepSeek V4 Flash 代币生成速度的两倍。该模型需要通过 pull request 与 llama.cpp 进行特定集成,并调整系统 GPU 内存限制以获得最佳性能。 AI

影响 提供了一个新的高性能开源模型选项,有可能提高本地 LLM 部署的效率。

排序理由 开源模型发布的用户基准和性能报告。[lever_c_demoted from research: ic=1 ai=1.0]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Tencent 的 HY3 模型表现强劲,代币生成速度翻倍

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/returnity ·

    Tencent-HY3 is the real deal on 128GB!

    <!-- SC_OFF --><div class="md"><p>I'm <em>really</em> impressed with HY3. If you haven't heard of this model, it's a new 295B-A21B MoE release from Tencent that <a href="https://the-decoder.com/tencent-releases-hy3-open-source-model-that-allegedly-matches-models-up-to-five-times-…