PulseAugur
中
实时 05:58:33
实体 Ridge Gradient Descent

Ridge Gradient Descent

PulseAugur coverage of Ridge Gradient Descent — every cluster mentioning Ridge Gradient Descent across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_256669 ·

    新理论优化预训练-微调AI模型的计算分配

    研究人员从理论上分析了预训练和微调大型模型的计算分配问题。使用梯度下降训练的正则化最小二乘法作为易于处理的模型，他们描述了在预训练和微调之间分配固定训练预算的最优划分。最优分配取决于预训练方向如何影响微调预测，以及微调的偏移如何通过下游数据几何被感知，特别是与经验协方差的预测相关谱分量相关。