Broyden–Fletcher–Goldfarb–Shanno algorithm
PulseAugur coverage of Broyden–Fletcher–Goldfarb–Shanno algorithm — every cluster mentioning Broyden–Fletcher–Goldfarb–Shanno algorithm across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
开发了新的光谱共轭梯度算法,用于优化和分类
研究人员开发了一种新的光谱共轭梯度算法,该算法对经典的Hestenes--Stiefel方法进行了修改。这种新算法旨在保持抗干扰特性,同时确保足够的下降性质。它结合了从更新方案派生的改进的割线方程,从而实现了无记忆的BFGS更新。光谱参数经过调整,以便在最小二乘框架内与BFGS方向对齐,并在优化模型上进行了测试,并将其应用于支持向量机(SVM)的鲁棒二分类模型。
-
研究揭示何时需要全局搜索来处理变分量子算法
一项新近发表在arXiv上的研究,探讨了全局演化搜索方法在变分量子算法(VQAs)中的有效性。该研究识别出了一些特定机制,例如参数重用和竞争性成本项,这些机制可能导致局部搜索在VQAs中不可靠。通过分析八种不同的自旋玻璃模型以及MaxCut和横向场伊辛模型等标准模型,研究发现,在某些困难的构造中,自适应差分进化(DE)的表现优于多起点局部搜索技术。研究结果表明,全局搜索的效用主要体现在局部搜索陷入次优盆地,而不是电路深度或曲率各向异性等因素。
-
新研究通过误差校正、精度和浅层架构解决PINN的局限性
三篇近期研究论文探讨了改进物理信息神经网络(PINN)性能和效率的方法。一种方法是物理信息误差场学习(PIEFL),它引入了一个辅助误差网络,在初始训练后校正预测,将计算资源集中于误差减小而不是持续的全场优化。另一项研究调查了PINN故障的补救措施,比较了切换到双精度浮点格式与使用具有子序列对齐的状态空间模型骨干的有效性,发现这些方法解决了不同的故障模式,并且不可互换。第三篇论文表明,当使用Levenberg-Marquardt算法进…
-
新的SCORE方法增强了物理信息神经网络的训练
研究人员开发了一种新颖的、受自协调启发的伪牛顿方法SCORE,旨在改进物理信息神经网络(PINNs)的训练。该方法通过使用伪牛顿递减来联合确定割线几何的候选步长和自适应偏移量,从而解决了PINN目标中曲率不确定和尺度不良的问题。在包括粘性Burgers方程在内的多个偏微分方程上的实验表明,与现有的BFGS和自缩放Broyden基线相比,SCORE实现了更低的最终误差。
-
广义二次梯度框架统一优化方法
研究人员引入了广义二次梯度(GQG),一个统一和扩展现有二阶优化方法的新型优化框架。GQG抽象了二次梯度(QG)和简化二次梯度(SQG)的核心原理,证明了满足局部二次模型平稳条件的正定曲率矩阵足以进行构建。这种泛化允许开发超越传统Hessian近似的新型感知曲率的优化算法,在深度学习中具有潜在应用。
-
新的神经网络方法解决复杂的偏微分方程 · 跟踪 3 个来源
研究人员开发了用于求解复杂域中偏微分方程 (PDE) 的新神经网络框架。一种方法,域分解随机神经网络,使用近场和远场区域的专用子网络来更准确地处理无界域。另一种方法,PCA--RaNN,将基于 PCA 的降维与随机特征相结合,以实现神经网络算子更快的训练,在保持精度的同时实现显著加速,并实现不确定性量化。