实体
hy_v3
hy_v3
PulseAugur coverage of hy_v3 — every cluster mentioning hy_v3 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
llama.cpp 现在默认加载 MTP 张量，增加了资源使用量
流行的开源推理引擎 llama.cpp 已更新其默认行为，以自动加载多令牌预测 (MTP) 张量。此更改会影响内置 MTP 张量的模型，例如 GLM-5.2、hy_v3、qwen35moe 和 step35。以前，只有在明确启用推测解码时才会加载这些张量。现在，它们将默认加载，即使您不使用 MTP 功能，也可能会增加用户的 VRAM 和 RAM 使用量。
-
llama.cpp 为腾讯 Hy3 模型添加了 MTP 推测解码支持
llama.cpp 项目已集成对腾讯 Hy3 模型（也称为 hy_v3）的支持。此次更新包括 MTP 推测解码的实现，该技术允许进行多令牌预测。Hy3 模型是一个拥有 2990 亿参数的大型混合专家模型，包含 80 层以及一个额外的 MTP 层。