实体
satindergrewal
satindergrewal
PulseAugur coverage of satindergrewal — every cluster mentioning satindergrewal across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
llama.cpp 为腾讯 Hy3 模型添加了 MTP 推测解码支持
llama.cpp 项目已集成对腾讯 Hy3 模型（也称为 hy_v3）的支持。此次更新包括 MTP 推测解码的实现，该技术允许进行多令牌预测。Hy3 模型是一个拥有 2990 亿参数的大型混合专家模型，包含 80 层以及一个额外的 MTP 层。
-
Hy3 LLM 集成到 llama.cpp 并支持 GGUF
Hy3 大型语言模型已发布，并通过新的拉取请求集成到 llama.cpp 项目中。早期用户报告称能够成功生成连贯的输出，并分享了特定硬件设置的性能指标。此次集成利用了 GGUF 格式，该工作归功于拉取请求作者 satindergrewal。