Sparse-Reslim

新的Sparse-Reslim方法提高了天气预报的准确性和效率

研究人员开发了一种名为Sparse-Reslim的新方法，以提高基于Vision Transformer (ViT)的天气预报模型的效率。这个无参数模块仅选择性地处理昂贵的Transformer块的25%的空间Token，并将它们视为残差更新。这种方法保持了所有网格单元的完整性，并避免引入新的参数或融合层。Sparse-Reslim在各种分辨率和模型系列中都显示出更高的预测准确性，同时显著减少了训练时间和内存使用。