Gradient-based methods
PulseAugur coverage of Gradient-based methods — every cluster mentioning Gradient-based methods across labs, papers, and developer communities, ranked by signal.
-
新的JAX框架简化了张量网络核机开发
研究人员开发了“tnkm”，一个基于JAX的开源Python库，用于构建和训练张量网络核机（TNKM）。该框架通过将非线性特征表示与紧凑的低秩张量网络参数化相结合，旨在创建既有表现力又计算高效的非线性模型。该库为各种特征映射、张量网络架构和优化策略（包括交替最小二乘法和基于梯度的方法）提供了一个统一的接口。在非线性基准问题上的初步演示表明，TNKM模型在高效训练和紧凑参数化方面取得了具有竞争力的预测精度。
-
新优化方法应对表现性预测挑战
研究人员开发了一种新的基于梯度的方法，旨在处理表现性预测问题，即模型的部署会影响未来的数据分布。这种新方法放宽了对数据分布和损失函数的先前假设，使其具有更广泛的适用性。该方法使用有限差分来估计分布变化，从而实现更高维度的优化，并支持更多种类的损失函数和数据类型。还引入了一个实际变体以减少样本需求，数值实验表明与现有方法相比，收敛速度和一致性有所提高。
-
Hugging Face 综述介绍了用于交通预测的自动化 AI
这篇来自 Hugging Face 的综述论文探讨了神经架构搜索（NAS）作为一种自动化深度学习模型设计方法在交通预测中的应用。文章回顾了各种 NAS 策略，包括基于梯度、进化和单次权重共享的方法，并讨论了它们如何应用于捕捉交通数据的时空特性。论文还强调了当前的挑战，如计算可扩展性、跨城市泛化能力以及 NAS 在时空基础模型上的应用，并提出了未来的研究方向。
-
综述详述交通预测模型的神经架构搜索
一篇新发表在arXiv上的综述论文探讨了神经架构搜索（NAS）在交通预测中的应用。该论文详细介绍了NAS如何自动化深度学习模型（如图卷积网络、循环神经网络和Transformer）的设计，以更好地捕捉交通数据的时空结构。它将NAS方法分为基于梯度、进化和一次性权重共享方法，同时还强调了计算可扩展性和跨城市泛化等挑战。