实体
Panayotis Mertikopoulos
Panayotis Mertikopoulos
PulseAugur coverage of Panayotis Mertikopoulos — every cluster mentioning Panayotis Mertikopoulos across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新模型分析具有重尾噪声的随机镜像下降法
研究人员引入了一种用于随机镜像下降法（SMD）的连续时间模型，该模型考虑了重尾噪声。该模型称为Lévy镜像流（LMF），旨在分析SMD在受到无限方差随机梯度输入时的一致性保证。研究表明，即使存在显著的跳跃不连续性，LMF仍能在特定时间范围内实现$\\epsilon$-最优性，并为SMD变体提供了相应的离散时间保证。
-
新的OptMuon方法通过自适应动量增强随机优化
研究人员推出了一种新颖的自适应动量正交化方法OptMuon，用于随机非凸优化，该方法通过观察到的轨迹校准更新幅度。该方法将Muon风格的方向与依赖于轨迹的系数计划相结合，避免了对平滑度常数或方差水平的依赖。OptMuon为噪声自适应性和零噪声最优性提供了理论保证，在无需手动调整超参数的情况下，可降低到接近最优的确定性速率。