Loewner partial ordering

新方法加速时间序列基础模型的训练

研究人员推出了一种用于时间序列基础模型（TSFM）的新型训练目标——合成数据蒸馏（SDD）。SDD通过将TSFM的输出与合成轨迹的条件预测分布进行比较，而不是仅仅与实际的未来值进行比较，来增强预训练。这种方法是一种Rao-Blackwellization形式，已在从400万到25亿参数不等的TSFM上进行了实证验证。结果表明，SDD能够更快地收敛验证损失，并且需要的训练迭代次数更少，在Gaussian Process数据上达到了相当或更优的性能。