研究人员引入了耦合缩放(Coupled Scaling),一个用于理解神经缩放定律的新框架,该框架考虑了架构和优化如何影响模型可访问的表征。这种任务条件方法认为,有限预算缩放受到任务结构与系统可访问几何形状之间相互作用的影响。该框架将架构支持与有限预算获取分开,并提出独立于缩放拟合来测量几何形状的测试,通过对现有涌现轨迹的审计来识别因子测试的控制因素。 AI
影响 引入了一个新的理论框架,可能改进对模型缩放行为的理解和预测。
排序理由 该集群包含一篇详细介绍神经缩放定律新理论框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- Coupled Scaling
- cs.LG
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv Recommender
- Influence Flower
- Litmaps
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →