Large Phasor Model

Phasor Transformer 为时间序列建模提供高效的注意力替代方案

研究人员推出了一种新颖的 Phasor Transformer 模块，旨在解决时间序列数据注意力机制中的二次瓶颈问题。这种新方法在单位圆流形上表示序列状态，并结合了可训练的相位偏移和无参数的离散傅里叶变换来实现全局 token 耦合。由此产生的 Large Phasor Model (LPM) 在参数数量仅为自注意力模型一小部分的情况下，展现出与之相当的性能，为振荡域中的时间建模树立了新的效率-准确性前沿。