实体
ggml_top_k_mask
ggml_top_k_mask
PulseAugur coverage of ggml_top_k_mask — every cluster mentioning ggml_top_k_mask across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
llama.cpp b11843 通过 QSA 选择更改优化 Qwen4Exp
llama.cpp 项目已发布 b11843 版本，其中包括对 Qwen4Exp 模型的优化。此次更新侧重于在没有 kq_mask 的情况下构建 QSA 选择，将融合的 QSA 选择重塑为 kq_mask 流，并测试 QSA 优化。这些更改解决了在具有多个流的图预留期间失败的形状断言问题。
-
llama.cpp 添加 QSA 掩码融合算子以提升稀疏注意力性能
llama.cpp 项目发布了更新 (b11800)，引入了一个新的 QSA 掩码融合算子，旨在提高稀疏注意力模型的性能。此次更新将 k-pool 掩码操作推广为更通用的 ggml_top_k_mask 函数。新算子支持选择 top-k 元素的各种配置，并可在支持的后端启用，同时在其他后端保持与现有路径的兼容性。