实体 praneshgo

praneshgo

PulseAugur coverage of praneshgo — every cluster mentioning praneshgo across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

基础设施 1

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_288510 · Oct 8 · 16:34

llama.cpp 优化 CUDA top-k 算法以实现显著加速

llama.cpp 项目发布了一个更新 (b11513)，显著优化了 top-k 算法的 CUDA 实现。此更新用更高效的 grid-over-rows radix select 替换了 per-row DeviceTopKKernel，适用于行数较多的情况，从而大幅缩短了处理时间。例如，在 qwen4exp 模型上，使用 34,816 个 token 时，top-k 操作速度从超过 5.7 秒提高到大约 941 毫秒。该版本还根据形…