实体
Gabriel Peyré
Gabriel Peyré
PulseAugur coverage of Gabriel Peyré — every cluster mentioning Gabriel Peyré across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新研究探讨宽神经网络中梯度流的收敛性
研究人员发表了一篇论文，探讨了宽浅神经网络模型中梯度流的全局收敛性，该研究超越了先前研究的齐次非线性。该研究建立在先前工作的基础上，证明了对于包括多头注意力层和向量输出权重在内的更广泛模型类别，非全局最小值在均值场梯度流动力学中是不稳定的。研究结果取决于均值场梯度流在 W2 中收敛，在这种情况下，极限必须是全局最小值。论文提出了具有线性增长和渐近正一齐次非线性的新构造，以及在亚高斯初始化下均值场动力学的稳定性估计。
-
新书探讨机器学习应用中的最优传输
一本题为《机器学习者的最优传输》的新书已经发布，详细介绍了最优传输（OT）技术在机器学习领域的应用。本书涵盖了Monge映射、Kantorovich耦合和Sinkhorn缩放等核心OT概念，并解释了它们与统计测量和生成模型的相关性。它旨在通过将数学严谨性与OT的计算和几何直觉联系起来，为机器学习从业者提供一个实用的工具箱。
-
Muon框架为深度学习提供新的谱Wasserstein距离
研究人员引入了一个名为Muon的新框架，通过谱归一化来稳定深度学习优化，特别是针对矩阵形状的参数。这项工作在均值场条件下理想化了连续时间、动量衰减的训练动力学，将宽模型表示为参数空间上的概率测度。该研究定义了谱Wasserstein距离，并开发了静态Kantorovich和Benamou--Brenier公式，为归一化训练动力学提供了梯度流解释。