PulseAugur
中
实时 09:02:03
English(EN) SpectraLDS: Provable Distillation for Linear Dynamical Systems

SpectraLDS 为线性动力学系统提供可证明的蒸馏

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了 SpectraLDS，一种具有可证明准确性保证的线性动力学系统（LDS）蒸馏新方法。该方法利用了近期在通过谱变换将 LDS 表示为可学习卷积方面的进展。SpectraLDS 允许对这种表示进行反演，从而实现端到端的凸优化过程，在保持预测准确性的同时，将每 token 的推理效率显著提高到恒定时间和空间复杂度，而与序列长度无关。该方法在集成到序列预测架构中时显示出潜力，提高了语言建模等任务的效率。 AI

影响 引入了一种提高语言建模等序列预测任务中推理效率的方法。

排序理由 这是一篇详细介绍线性动力学系统新蒸馏方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Devan Shah, Shlomo Fortgang, Sofiia Druchyna, Elad Hazan ·

    SpectraLDS: 线性动力学系统的可证明蒸馏

    arXiv:2505.17868v2 Announce Type: replace Abstract: We present the first provable method for identifying symmetric linear dynamical systems (LDS) with accuracy guarantees that are independent of the systems' state dimension or effective memory. Our approach builds upon recent wor…

相关话题