研究人员开发了一种新的非扩张性双时间尺度随机逼近方法，解决了收敛性不保证收缩到唯一平衡点的情况。该研究引入了一种残差预处理的慢速预言机，显著降低了对快速跟踪误差的依赖，将嵌套 Tikhonov-KM 算法的样本率从 T^{-1/4+o(1)} 提高到 T^{-1/3+o(1)}。此外，还提出了一种单循环算法，通过在线跟踪快速平衡点和泄漏预处理器，实现了 T^{-1/2+o(1)} 的速率，避免了重复的内循环成本。 AI
影响 为随机逼近算法带来了理论上的改进，有可能提高机器学习模型的训练效率。
排序理由 该集群包含两个相同的 arXiv 预印本，详细介绍了机器学习统计学中的一种新理论方法。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2607.13414v1 Announce Type: new Abstract: Non-expansive two-time-scale stochastic approximation is governed by a slow stochastic Krasnoselskii--Mann fixed-point iteration rather than by contraction to a unique equilibrium. We study this regime under a contractive fast map a…
Non-expansive two-time-scale stochastic approximation is governed by a slow stochastic Krasnoselskii--Mann fixed-point iteration rather than by contraction to a unique equilibrium. We study this regime under a contractive fast map and a non-expansive reduced slow map. We first pr…