实体
multi-index model
multi-index model
PulseAugur coverage of multi-index model — every cluster mentioning multi-index model across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
面向两层神经网络的数据集蒸馏理论解释
研究人员从理论上分析了应用于两层神经网络基于梯度的训练的数据集蒸馏算法。该研究聚焦于一种称为多索引模型的非线性任务结构，证明了问题的低维结构被有效地编码到生成的蒸馏数据中。这种合成数据可以重现具有高泛化能力的模型，所需的内存复杂度为 $\tilde{\Theta}$$(r^2d+L)$，其中 $d$ 和 $r$ 是任务的输入维度和内在维度。
-
两篇论文分析机器学习经验风险最小化理论极限
两篇新研究论文探讨了机器学习中经验风险最小化（ERM）的理论基础。第一篇论文《Replica Symmetry Breaking and Algorithmic Thresholds in Empirical Risk Minimization under Multi-Index Model》引入了一种增量近似消息传递（IAMP）算法，用于分析高维设置下的ERM性能，旨在表征多项式时间算法可实现的最佳性能。第二篇论文《Universa…