convex optimization
PulseAugur coverage of convex optimization — every cluster mentioning convex optimization across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新研究提出用于LLM训练的动态批次大小计划
研究人员开发了一种新的深度学习模型训练方法，通过与学习率一起动态调整批次大小。这种方法基于凸优化，提供了一个闭式最优批次大小计划，可以应用于任何学习率计划和模型架构。研究表明，这些动态计划始终优于静态批次大小方法，尤其突出了它们对训练大型语言模型的重要性。
-
新算法以更高效率解决上下文组合半老虎机问题
研究人员为上下文组合半老虎机问题开发了新算法，该问题涉及选择臂的子集以最大化累积奖励。其中一种方法，在最近的 arXiv 论文中提出，通过解决一个凸优化问题，提供了一种计算高效的方法来平衡探索和利用。该算法实现了 minimax 最优遗憾界限，并推广到任意组合动作结构和奖励函数逼近。另一篇论文侧重于预言机高效框架，显著减少了这些问题所需的预言机查询次数，特别是在最坏情况下的线性奖励设置中，同时保持了严格的遗憾保证。
-
新的凸规划方法在复杂网络中寻找稠密子矩阵
研究人员开发了一种新的方法，使用凸规划来识别大型矩阵中包含多个此类稠密区域的稠密子矩阵。该方法扩展了之前的工作，之前的工作通常只关注只有一个隐藏稠密子矩阵的矩阵。新技术旨在处理复杂网络和真实世界数据（如协作和通信网络）中更现实的场景。数值实验已在各种条件下对完美恢复的理论发现进行了经验验证。
-
新的FALCON算法解决了航空航天领域的非凸微分博弈问题
研究人员开发了FALCON，这是一种旨在解决复杂多智能体最优控制问题的新型算法，特别适用于航空航天领域的追逐-规避和太空对抗等应用。该算法通过放宽智能体间的控制耦合并采用序贯凸规划，将非凸微分博弈问题转化为可处理的凸子博弈来解决。FALCON为这些非凸博弈提供了全局收敛到开环纳什均衡的保证，证明了其在合作和竞争场景中的有效性。
-
新的arXiv论文详细介绍了凸优化技术的进展
arXiv上的两篇新研究论文探讨了凸优化的进展。第一篇论文介绍了一种用于在线凸优化（OCO）的统一探测模型，该模型即使在亚线性和噪声探测预算下也能改善最坏情况下的遗憾。第二篇论文提出了基于哈密顿动力学的算法，实现了光滑凸优化的加速收敛速率，将哈密顿动力学确立为确定性加速凸优化的一种有用基元。
-
新方法通过集成模型和最坏情况分布分析增强鲁棒优化
研究人员开发了用于分布鲁棒优化（一种考虑数据分布不确定性的技术）的新方法。一种方法是集成分布鲁棒贝叶斯优化（Ensemble Distributionally Robust Bayesian Optimization），它使用模型集成来提高鲁棒性并实现理论上的次线性遗憾界限。另一篇论文介绍了分布鲁棒多目标优化（DR-MOO），其算法在最坏情况分布下最小化目标，从而提高了样本复杂度。此外，还提出了一个用于分布鲁棒学习的框架，以优化一阶方…