实体
Taylor series
Taylor series
PulseAugur coverage of Taylor series — every cluster mentioning Taylor series across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的核方法旨在压缩语言模型中的注意力机制
研究人员开发了新的基于核的方法GAIM和Q-DAIM，以解决语言模型中注意力机制的二次复杂度问题。这些方法旨在通过在与核相关的希尔伯特空间内插值线性映射来压缩上下文或KV缓存。为了实现线性时间复杂度，提出了基于泰勒级数、Performer和随机傅里叶特征的代理模型。该方法已扩展到流式注意力，并在LongBench-E基准测试上显示出有希望的结果，性能与最先进的方法相当。
-
Swift Sampling 算法高效选择关键视频帧
研究人员开发了 Swift Sampling，这是一种旨在识别和选择长视频中最具信息量帧的新算法。这种无需训练的方法使用泰勒展开来预测帧演变，并选择与这些预测显著不同的帧，从而有效地捕捉时间上的意外。Swift Sampling 在计算上效率很高，与基线相比只有 0.02 倍的开销，并且在视频问答和其他下游任务中，尤其是在帧预算有限的视频上，已显示出显著的准确性提高。