PulseAugur
中
实时 13:38:58
实体 src/llama-kv-cache.cpp

src/llama-kv-cache.cpp

PulseAugur coverage of src/llama-kv-cache.cpp — every cluster mentioning src/llama-kv-cache.cpp across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_301887 ·

    llama.cpp 更新 KV 缓存处理以支持部分状态序列化

    llama.cpp 项目发布了版本 b11644 的更新，该更新改进了键值 (KV) 缓存处理部分状态序列化的方式。此更新确保缓存正确支持 PARTIAL_ONLY 标志，防止缓存数据不必要地复制到服务器检查点。更改涉及 src/llama-kv-cache.cpp 和相关的内存包装器，Georgi Gerganov 贡献了此更新。test-llama-context 中的一个新测试用例验证了在未使用 SWA 时，部分状态不会超过完整…