PulseAugur
实时 02:57:43
English(EN) Gradient Testing and Estimation by Comparisons

新算法仅使用比较即可估计梯度

研究人员开发了新的梯度测试和估计算法,仅使用比较预言机,该预言机确定两个点中哪个点产生更高的函数值。对于光滑函数,算法可以用恒定的查询次数测试归一化梯度是否接近给定向量。此外,算法可以使用 $O(n\log(1/\varepsilon))$ 次查询来估计归一化梯度,这已被证明是最优的。还开发了一种量子算法,该算法可以用 $O(\log (n/\varepsilon))$ 次查询实现此估计。 AI

影响 这项研究可能通过改进梯度估计技术,从而实现更有效的机器学习模型训练方法。

排序理由 关于梯度测试和估计新算法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新算法仅使用比较即可估计梯度

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Xiwen Tao, Chenyi Zhang, Helin Wang, Yexin Zhang, Tongyang Li ·

    梯度测试与比较估计

    arXiv:2405.11454v3 Announce Type: replace Abstract: We study gradient testing and gradient estimation of smooth functions using only a comparison oracle that, given two points, indicates which one has the larger function value. For any smooth $f\colon\mathbb R^n\to\mathbb R$, $\m…