实体
Linformer
Linformer
PulseAugur coverage of Linformer — every cluster mentioning Linformer across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的LEAF注意力机制为FPGA优化Transformer模型
研究人员开发了LEAF，一种新颖的、基于查找表（LUT）的高效注意力机制，专为FPGA设计。该方法通过将关键组件转换为FPGA原生层，解决了在FPGA上为实时系统部署大型、高性能Transformer模型的挑战。LEAF实现了超低延迟推理，在喷气机标记基准测试中将准确率提高了1.8个百分点，同时与先前最先进的方法相比，显著减少了LUT的使用。
-
新型EMAGN模型通过学习聚类提升交通预测效率
研究人员开发了EMAGN，一种高效多注意力图网络，旨在提高交通预测模型的可扩展性。通过采用学习到的聚类矩阵，EMAGN将自注意力机制的计算和内存复杂度从二次方降低到线性。这项创新使得EMAGN在显著降低训练时间、推理时间和GPU内存占用的同时，能够达到与全注意力模型相当的准确性。该模型的效率使其能够在标准GPU上运行，而更复杂的模型则无法运行，这表明交通预测的可行配置得到了实质性扩展。