实体
Random Attention
Random Attention
PulseAugur coverage of Random Attention — every cluster mentioning Random Attention across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新研究致力于 LLM KV 缓存优化以实现高效推理 · 已追踪 10 个来源
多篇研究论文探讨了优化大型语言模型 (LLM) 的键值 (KV) 缓存的新技术，以提高推理效率并降低内存开销。这些方法包括面向 AI 加速器的动态缓存编排、NVMe SSD 外部 KV 缓存的性能表征，以及使用互补多样性指标的几何感知驱逐策略。其他方法侧重于针对 KV 缓存连接对模型进行微调，适应提示特定约束的自适应压缩框架，以及在不同上下文和模型检查点之间重用 KV 缓存的方法。一些研究还探讨了用于量化 KV 缓存的注意力加权值投影…
-
新的随机注意力模块提高了移动睡眠分期的效率
研究人员开发了一种新的时间建模模块，称为随机注意力（RA），旨在用于移动设备上的高效睡眠分期。RA 利用固定的随机投影进行基于相似性的聚合，与 RNN 和 Transformer 等传统序列模型相比，降低了计算成本。通过随机注意力先验核（RAPK）进行的理论分析将 RA 分解为全局平滑和特征相似性项，提供了可解释性。在基准数据集上的实验表明，RA 在保持竞争性性能并显示出强大的泛化能力和鲁棒性的同时，将准确率和 F1 分数比基线方法提…