PulseAugur
中
实时 05:17:39

新的SATS方法提高了时间序列基础模型的预训练效率

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员推出了一种新颖的时间序列基础模型预训练方法SATS，该方法旨在处理具有不同采样频率的异构数据集。SATS采用了一种具有尺度感知的令牌对齐机制，将块大小明确视为一个尺度，并使用受对比学习启发的正则化器来对齐不同尺度下的表示空间。此外，一种混合掩码策略结合了随机和连续掩码，以更好地捕捉多尺度时间结构。在LSTF基准测试上的实验表明，SATS比现有方法在MSE上提高了9.2%，在MASE上提高了8.3%，同时模型效率也提高了65.6%。 AI

影响 提高了时间序列基础模型的效率和性能，可能影响预测和异常检测等应用。

排序理由 详细介绍时间序列基础模型新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的SATS方法提高了时间序列基础模型的预训练效率

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Taihua Chen, Xiang Ma, Yixin Zhang, Tailin Zhan, Manyu Sun, Lizhen Cui ·

    通过多块令牌对齐和混合掩码对时间序列基础模型进行尺度感知预训练

    arXiv:2608.20005v1 Announce Type: new Abstract: Pretraining time series foundation models across heterogeneous datasets necessitates effective handling of varying sampling frequencies. Current methods either employ dataset-specific patch sizes and separate FFNs, leading to fragme…

相关实体

相关话题