实体
stochastic optimization
stochastic optimization
PulseAugur coverage of stochastic optimization — every cluster mentioning stochastic optimization across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的McDiarmid不等式推广增强了随机优化
研究人员开发了McDiarmid集中不等式的一个新推广，这是概率论中的一个基本工具。通过有效地考虑训练样本的重用和辅助随机变量的使用，这一进展允许在随机优化问题中获得更严格的误差界限。新不等式还兼容无界均值差有界函数，使其适用于更复杂的模型和数据分布。
-
新的自适应停止规则提高了随机优化中 SGD 的效率
研究人员为随机梯度下降 (SGD) 等随机优化算法开发了新的轨迹自适应停止规则。这些规则解决了理论固定时间分析与实际自适应停止决策之间的不匹配问题，确保了统计有效性。该方法使用置信上限序列来界定优化误差和次优性，实现了最优衰减率并适应实际梯度。这种方法允许 SGD 一旦达到所需的精度即可高效停止，可能比传统的确定性时间范围需要更少的迭代次数，并且已扩展到小批量 SGD。