PulseAugur
中
实时 09:07:55
实体 PRKV

PRKV

PulseAugur coverage of PRKV — every cluster mentioning PRKV across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_368290 ·

    新的 PRKV 方法优化了 LLM KV 缓存以实现长上下文推理

    研究人员开发了 PRKV,一种在长上下文 LLM 推理期间管理 KV 缓存内存的新颖方法。这种无需训练的方法通过将个性化 PageRank 应用于注意力诱导的转换图来估计 token 的全局重要性,从而使影响能够超越简单的近期性或即时注意力。在各种 LLM 系列和任务上进行基准测试,PRKV 在高达 90% 的压缩率下,与现有的驱逐方法相比,表现出有竞争力,同时以最小的开销显著减少了峰值内存使用量。