Linformer

新型EMAGN模型通过学习聚类提升交通预测效率

研究人员开发了EMAGN，一种高效多注意力图网络，旨在提高交通预测模型的可扩展性。通过采用学习到的聚类矩阵，EMAGN将自注意力机制的计算和内存复杂度从二次方降低到线性。这项创新使得EMAGN在显著降低训练时间、推理时间和GPU内存占用的同时，能够达到与全注意力模型相当的准确性。该模型的效率使其能够在标准GPU上运行，而更复杂的模型则无法运行，这表明交通预测的可行配置得到了实质性扩展。