研究人员开发了一种 LogSumExp 函数的新颖近似方法,该函数对于熵正则化最优传输和分布鲁棒优化等优化问题至关重要。这种新的近似方法,称为安全 KL 散度,保持了凸性和光滑性,从而可以使用随机梯度方法进行高效优化。实验和理论分析表明,这种方法在基于 LogSumExp 的随机优化方面优于现有方法。 AI
影响 这项研究可能导致依赖复杂优化技术的模型的更有效训练。
排序理由 该集群包含一篇详细介绍新数学优化方法的学术论文。[lever_c_demoted from research: ic=1 ai=0.7]
- distributionally robust optimization
- Egor Gladin
- entropy-regularized optimal transport
- Kullback--Leibler divergence
- LogSumExp
- Safe KL divergence
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →