PulseAugur
中
实时 18:05:32
实体 Grouped Value Attention

Grouped Value Attention

PulseAugur coverage of Grouped Value Attention — every cluster mentioning Grouped Value Attention across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
时间线
  1. 2026-09-15 research_milestone Researchers published a paper detailing Grouped Value Attention, a new method for efficient KV caching in Transformer models. 来源
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_254718 ·

    新的分组值注意力方法大幅缩减 Transformer KV 缓存大小

    研究人员推出了一种新颖的方法——分组值注意力(GVA),以减小 Transformer 模型中 KV 缓存的内存占用。GVA 存储分组值,并使用学习到的线性映射来重建键,该键可以在推理过程中集成到查询中。该方法旨在将性能保持在接近分组查询注意力(GQA)的水平,同时显著减小缓存大小,据报道,持久缓存标量减少了 45-47%。该方法以更紧凑的缓存表示实现了接近 GQA 的基准准确性,并且正在开发自定义解码内核以实现更快的推理。