两篇新的arXiv论文探讨了Transformer模型在理解和预测动力学系统中的应用。第一篇论文分析了单层Transformer的机械特性,将因果自注意力解释为历史依赖的递归,并识别了线性和非线性系统的运行模式。第二篇论文介绍了一种用于ODEFormer(一个将ODE轨迹映射到方程的预训练Transformer)的验证器引导工作流程,以提高这些模型向高维物理数据的可靠迁移能力,并实现可解释、物理可审计的预测。 AI
影响 这些论文为Transformer在时间序列预测和物理系统建模方面的能力提供了理论见解,有可能提高其可解释性和可靠性。
排序理由 两篇在arXiv上发表的学术论文,讨论了用于动力学系统的Transformer模型。
- arXiv
- Hugging Face
- Navier–Stokes equations
- ODEFormer
- autoregressive model
- dynamical systems
- Gregory Duthé
- self-attention
- State Space Models
- time series
- transformers
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →