研究人员开发了用于随机复合包含的新型方差缩减技术,引入了无偏和有偏估计量。包括小批量 SGD 和无循环 SVRG 在内的无偏方法实现了 $\mathcal{O}(1/k)$ 的收敛率。新引入的有偏估计量,如 SARAH 和 Hybrid SGD,在保持收敛的同时也提供了不同的预言机复杂度。这些方法通过在不平衡分类的 AUC 优化和强化学习中的策略评估的数值实验得到证明。 AI
影响 引入了可能提高机器学习模型训练效率的新优化技术,特别是在不平衡分类和强化学习等领域。
排序理由 该集群包含一篇详细介绍机器学习新方法和理论结果的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →