PatchFormer

PatchFormer模型推进零样本时间序列预测

一篇新研究论文介绍PatchFormer，一个专为时间序列预测设计的模型。该模型采用基于块的方法，通过分层掩码重建进行自监督预训练，并使用轻量级适配器进行高效迁移学习。实验表明，PatchFormer在零样本多步预测方面取得了最先进的性能，显著降低了均方误差，并且与现有方法相比，所需的特定任务训练数据大大减少。该模型还展示了随着预训练数据增加而有效扩展的能力，以及比传统Transformer更快的序列处理速度。