实体 sm-tensor

sm-tensor

PulseAugur coverage of sm-tensor — every cluster mentioning sm-tensor across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

基础设施 1

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_137832 · Jul 11 · 23:28

llama.cpp b9966 通过缓存正则表达式模式优化性能

llama.cpp 项目发布了 b9966 版本，为使用 "sm-tensor" 标志的用户带来了性能优化。此更新解决了在解码过程中，每个张量和令牌都会不必要地重新编译 29 个正则表达式模式的问题。通过缓存这些模式，此修复显著减少了解码线程上浪费的 CPU 周期，从而提高了运行效率。