PulseAugur
中
实时 08:07:16
实体 Ashkan Shahbazian

Ashkan Shahbazian

PulseAugur coverage of Ashkan Shahbazian — every cluster mentioning Ashkan Shahbazian across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_364304 ·

    OVAL 方法将 LLM KV 缓存内存减少 50%,同时保持性能

    研究人员推出了一种新颖的大型语言模型(LLM)键值(KV)缓存压缩方法 OVAL,这是长上下文解码的一个重要瓶颈。OVAL 利用输出感知的低秩基来表示缓存中的每个页面,既作为检索索引,也作为存储机制。这种方法可以在保持性能的同时消除精确页面,在各种长上下文基准测试中实现了显著的内存节省。