PulseAugur
中
实时 11:09:00
English(EN) LLM Pretraining Shapes a Generalizable Manifold: Insights into Cross-Modal Transfer to Time Series

LLM预训练为时间序列预测创造了可泛化的流形

作者 PulseAugur 编辑部 · [1 个来源] ·

一篇新的研究论文探讨了如何在时间序列预测中有效利用在文本上预训练的大型语言模型（LLM）。该研究表明，语言预训练为Transformer配备了一个可重用的流形，使其能够在无直接监督的情况下学习时间序列动力学。这种预训练不仅改进了优化过程，还允许在微调期间进行低维对齐，有效地将数值动力学投影到与任务相关的方向上。 AI

影响 证明了可以通过利用预训练结构将LLM应用于时间序列预测，从而可能提高数值动力学预测的效率和准确性。

排序理由 该集群包含一篇详细介绍新研究发现的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Alexis Roger, Prateek Humane, Zhenghan Tai, Gwen Legate, Andrei Mircea, Vasilii Feofanov, Irina Rish ·

    LLM Pretraining Shapes a Generalizable Manifold: Insights into Cross-Modal Transfer to Time Series

    arXiv:2605.20449v1 Announce Type: cross Abstract: Can language-pretrained transformers become effective time-series forecasters, and why? In this paper, we show that cross-modal transfer arises because language pretraining preconditions time series training with a reusable manifo…

相关实体

相关话题