实体 PS-Clip-SGD

PS-Clip-SGD

PulseAugur coverage of PS-Clip-SGD — every cluster mentioning PS-Clip-SGD across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_15414 · May 4 · 15:11

研究人员提出逐样本裁剪以实现鲁棒且快速的AI模型训练

研究人员开发了一种名为逐样本裁剪随机梯度下降（PS-Clip-SGD）的新训练方法，该方法提高了非凸优化问题的鲁棒性和速度。该方法为收敛提供了理论保证，即使存在重尾梯度噪声。实证测试表明，在CIFAR-100上训练AlexNet时，PS-Clip-SGD的性能优于标准技术，并且在与梯度累积结合使用时也显示出优势。