一篇题为《学习的热力学理论(二):依赖历史的可达性与持续学习》的新论文已在arXiv上发表。该研究将机器学习中的可塑性表述为一种依赖历史动力学的有限时域可达性问题,并利用最小能量控制理论,对先前研究进行了扩展。论文引入了一个包含影响未来更新的参数和内部变量的扩展状态,并提出完成给定位移所需的最小能量决定了适应成本。该研究还探讨了学习与保留之间的关系,提出成本可能增加而秩不降低,并区分了学习的可及方向和不可及方向。 AI
影响 引入了一个理解学习可塑性和持续学习的新理论框架,可能影响未来的模型架构和训练方法。
排序理由 一篇关于机器学习新理论框架的学术论文在arXiv上发表。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- A Thermodynamic Theory of Learning Part II: History-Dependent Reachability and Continual Learning
- Daisuke Okanohara
- Hugging Face
- minimum-energy control theory
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →