实体
consensus-based optimization
consensus-based optimization
PulseAugur coverage of consensus-based optimization — every cluster mentioning consensus-based optimization across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 3
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
新的均场模型通过基于共识的优化增强了神经网络训练
研究人员开发了一种用于使用基于共识的优化（CBO）训练两层神经网络的均场模型。该方法与Adam结合使用时，比单独使用CBO收敛更快。研究还表明，CBO可以适应多任务学习，并减少内存开销。CBO和神经网络的均场模型均已通过数值计算得到验证。
-
新框架统一黑盒优化方法，引入混合算法
研究人员开发了一个统一的黑盒优化（BBO）方法理论框架，包括进化策略（ES）、基于共识的优化（CBO）和通过积分进行的优化（OVI）。该框架揭示了这些方法之间的主要区别在于它们的适应度聚合和共识范围选择。利用这些见解，研究人员引入了混合优化器，例如 ES-OVI 和 CBO-OVI，它们在现有技术之间进行插值。这些混合方法在各种基准测试中表现出改进的性能和鲁棒性，包括连续控制任务和语言模型合并。
-
New Operator Calculus Unifies Optimization Method Convergence Theory
研究人员开发了一个新的算子微积分框架，用于统一各种基于种群的优化方法的收敛性分析。该方法将进化策略和随机梯度方法等算法描述为基本算子的组合，从而得到由传输-反应-跳跃 (TRJ) PDE 描述的连续时间极限。该框架建立了一个模块化的李雅普诺夫原理，为认证这些复合平均场算法的收敛性提供了一个工具集。