Follow-the-Regularized-Leader
PulseAugur coverage of Follow-the-Regularized-Leader — every cluster mentioning Follow-the-Regularized-Leader across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
新论文详述在线线性优化的minimax最优界限
一篇新发表在arXiv上的论文详述了关于$\ell_p$球上的在线线性优化进展。该研究引入了一种遵循正则化领导者（FTRL）的算法，该算法实现了minimax最优的遗憾界限，这些界限被证明对于固定的$p$是最优的，并且随着$p$的增加接近最优常数。与标准的遵循领导者（FTL）方法相比，所提出的算法提供了改进的遗憾保证，尤其是在某些损失序列上，并包含一个切换扩展以在限制FTL遗憾的同时保持精确的常数。该论文还计算了在特定条件下预期遗憾的…
-
新算法解决重尾损失下的专家建议预测问题
研究人员开发了用于专家建议预测的新算法，专门解决重尾损失的情况。当损失的界限矩小于一时，现有方法可能不是最优的，导致对专家数量的依赖呈多项式增长。提出的自适应重尾FTRL和OMD算法在事先不知道损失参数的情况下，实现了接近最优的遗憾保证。此外，具有香农熵正则化的FTRL算法在已知这些参数时，提供了最优遗憾。
-
新算法在对抗性线性CMDPs中实现最优遗憾
研究人员开发了一种新的对偶算法，该算法在具有未知转移的周期性对抗性线性CMDPs中实现了最优的 $\widetilde{\mathcal{O}}(\sqrt{K})$ 遗憾和累积约束违反。这种新算法克服了先前方法（受限于 $\widetilde{\mathcal{O}}(K^{3/4})$）的局限性。该方法结合了自适应的FTRL（Follow the Regularized Leader）、收缩值估计和指数Lyapunov函数，消除了…
-
新研究以新方法解决在线学习中的动态遗憾问题 · 跟踪3个来源
三篇新研究论文探讨了在线学习中的动态遗憾最小化问题。第一篇论文侧重于针对弯曲损失和Adam等自适应优化器的FTRL（Follow-the-Regularized-Leader）方法，提出了一种简化证明并提供新保证的约简。第二篇论文引入了一个用于具有指示器切换成本的动态遗憾的元学习框架，实现了跟踪分段常数比较器的最小最大最优界。第三篇论文分析了上下文线性优化中遗憾的曲率，推导了一个闭式度量，并展示了其在电池套利任务中将遗憾提高30.8%的应用。
-
新研究探讨 1/2-Tsallis-INF 算法在最佳臂识别中的应用
本研究论文调查了 1/2-Tsallis-INF 算法（一种用于最小化多臂老虎机问题遗憾值的已知方法）在应用于识别最佳臂任务时的有效性。该研究分析了该算法在随机老虎机设置下的失效概率，重点关注次优臂的采样方式以及这对累积损失估计器的影响。通过为估计累积损失的间隙过程开发一个李雅普诺夫函数，论文为失效概率建立了多项式上限，并证明了这些上限中的指数基本上是紧密的。
-
新算法在双线性鞍点问题中实现$\tilde{O}(T^{-1/4})$收敛
研究人员开发了一种新的解耦学习算法，该算法在双线性鞍点问题中实现了末迭代收敛到纳什均衡。该算法保证以$\tilde{O}(T^{-1/4})$的速率收敛，并且计算效率高，仅需要线性优化预言机。该方法结合了实验设计技术和Follow-The-Regularized-Leader (FTRL)框架，为每个学习者的动作集使用了定制的正则化器。
-
新的自适应学习率增强了Follow-the-Perturbed-Leader算法
研究人员为在线学习中的Follow-the-Perturbed-Leader (FTPL)算法开发了一种新的自适应学习率方法。该方法引入了代理概率函数，能够在无需精确计算概率的情况下实现依赖于概率的自适应。该方法将Best-of-Both-Worlds保证扩展到具有Pareto扰动和专家建议设置的FTPL，并保持了FTPL的计算效率。
-
论文分析了FTRL学习者在博弈中的策略剩余
本文研究了在两人零和博弈中，针对FTRL（Follow-the-Regularized-Leader）学习算法可实现的策略剩余。研究表明，策略剩余的提取是FTRL家族的固有特征，其规模与学习者采取的次优行动数量成正比。分析揭示了基于正则化器陡峭度的二分法：非陡峭正则化器通过有限时间消除次优行动，从而实现最大的瞬时剩余；而陡峭正则化器则会延迟剩余的饱和。