实体
Alexey Kravatskiy
Alexey Kravatskiy
PulseAugur coverage of Alexey Kravatskiy — every cluster mentioning Alexey Kravatskiy across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的 SignMuon 方法将 AI 模型更新压缩至每参数一比特
研究人员开发了 SignMuon，一种将模型更新压缩至每参数一比特的方法，显著降低了通信开销。虽然 SignMuon 在实践中优于 SignSGD，但它在某些函数上仍可能发散。通过误差反馈修复此问题的尝试结果好坏参半，应用于梯度的误差反馈在实现非凸问题的标准收敛率方面被证明是有效的。实验结果表明，在线性最小化预言机（LMO）之后对梯度进行符号化的启发式方法，比理论上保证收敛的方法在规模上更有效。
-
ImprovEvolve 使用 LLM 演化子程序进行复杂优化
研究人员开发了 ImprovEvolve，一种结合了盆地跳跃搜索和 LLM 演化子程序来解决复杂优化问题的新方法。该方法与以往的 LLM 引导的进化计算不同，它演化用于初始化、局部改进和扰动的专用算子，而不是一个单一的程序。ImprovEvolve 在发现新的数学构造方面取得了成功，包括新的最先进的六边形堆积、改进了二次自相关不等式的界限，并在球体编码方面取得了显著改进。