Key-Correlated Layer Attention

新的键相关层注意力为神经网络提供线性复杂度

研究人员开发了一种新颖的机制——键相关层注意力（KCLA），旨在改进神经网络中不同层之间的交互方式。KCLA通过实现线性复杂度来解决传统层注意力的二次计算复杂度问题，其灵感来源于对层注意力中键表示显示出高余弦相似性的观察。这种新方法保持了动态信息更新和有效的长距离跨层依赖性，性能优于循环层注意力和线性注意力等现有方法。KCLA在图像识别、物体检测和医学图像分割等各种应用中表现出色，并且其代码已公开提供。