PulseAugur
中
实时 14:03:40
实体 specdec

specdec

PulseAugur coverage of specdec — every cluster mentioning specdec across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_227593 ·

    llama.cpp 为 MoE 模型性能添加 CUDA 优化

    一项提交给 llama.cpp 项目的拉取请求引入了针对混合专家（MoE）模型的 CUDA 优化。这些增强功能旨在通过将融合能力扩展到单 token 操作之外，来提高性能，特别是在投机解码和 MoE 路由方面。这些更改有望在各种草稿宽度下为 MoE 模型带来速度提升，基准测试显示出有希望的结果。