实体
Nesterov Acceleration for the SMO Algorithm
Nesterov Acceleration for the SMO Algorithm
PulseAugur coverage of Nesterov Acceleration for the SMO Algorithm — every cluster mentioning Nesterov Acceleration for the SMO Algorithm across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新研究论文将z变换方法应用于二次优化
一篇新论文探讨了z变换方法在二次优化问题中的应用。研究表明，这种通常用于信号处理和控制论的经典工具，可以为优化算法带来新颖的渐近结果。该研究将分析范围从基本的梯度下降扩展到Nesterov加速和随机梯度下降等更复杂的方法，并强调了频谱维度在表征收敛行为中的作用。
-
新的SHANG++方法增强了AI模型在噪声下的训练鲁棒性
研究人员开发了两种新的加速随机梯度下降方法，SHANG和SHANG++，旨在提高在乘性噪声下的稳定性和收敛性。SHANG是一种半隐式离散化方法，可增强稳定性，而SHANG++则包含阻尼校正，以实现更快的收敛和更高的噪声鲁棒性。这两种方法都被证明对凸目标和强凸目标有效，SHANG++在各种应用中都表现出一致的性能，包括深度学习任务，如训练ResNet-34，在该任务中，其准确性接近无噪声设置。
-
二阶漂移模型加速生成式AI训练动态
研究人员推出二阶漂移模型，这是单步生成模型的一项进展，可在训练过程中演化分布。通过将人工速度变量纳入生成样本，这些模型将动态提升至相空间，从而实现加速的二阶动态。该方法通过缓解谱刚度，解决了尤其是在精细结构方面一阶漂移模型收敛缓慢的问题。已开发并测试了一种新的半隐式训练算法，应用于合成分布匹配、序列数据生成和机器人控制等任务，显示出改进的收敛性和有竞争力的性能。