PulseAugur
中
实时 20:23:10
实体 Flow-based Spectral Kernel Learning for Nonstationary Attention

Flow-based Spectral Kernel Learning for Nonstationary Attention

PulseAugur coverage of Flow-based Spectral Kernel Learning for Nonstationary Attention — every cluster mentioning Flow-based Spectral Kernel Learning for Nonstationary Attention across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_317464 ·

    新的FSKA框架学习非平稳注意力核以实现高效机器学习

    研究人员推出了一种新颖的框架——流式谱核注意力（FSKA），旨在学习非平稳注意力核，以改进机器学习中的自注意力机制。FSKA利用由归一化流参数化的谱密度学习，实现了灵活且可正则化的核学习，该学习与高效的线性注意力计算兼容。该方法通过移除查询-键投影并使用固定的正交值投影来简化注意力架构，从而显著减少了可训练参数，并在分类和可扩展性任务上取得了有竞争力的性能。