Spectral algorithms for supervised learning
PulseAugur coverage of Spectral algorithms for supervised learning — every cluster mentioning Spectral algorithms for supervised learning across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的随机投影分析优化了 Sobolev 范数下的谱算法
本文改进了基于随机投影的谱算法的分析，重点关注其在一般条件下的泛化性能。作者利用再生核希尔伯特空间的嵌入性质，在 Sobolev 范数下建立了最优学习率，与 minimax 下界相匹配。他们的研究结果表明，最优性所需的投影维度与有效维度成正比，在保持各种来源条件下的统计效率的同时，显著降低了计算成本。实验结果验证了所提出方法的理论发现和实际有效性。
-
新的谱算法加速马尔可夫链收敛
研究人员开发了用于选择定义有限马尔可夫链平均核的状态空间划分的谱算法。这些算法旨在通过将基线核与吉布斯核组合或混合来加速收敛，吉布斯核在选定的块内重新采样。选择过程涉及使用加权 k-means 对马尔可夫链平方核的底部非恒定特征函数进行四舍五入，或对加性混合物进行代数上最小的特征函数进行四舍五入。该目标被证明等同于最小化初始块标签与一次跃迁后的状态之间的皮尔逊卡方互信息，从而提供了概率解释。在各种模型上的实验表明，每次迭代在收敛和统计…
-
新研究为对抗性攻击下的谱排序误差设定了界限
研究人员分析了用于基于成对比较对项目进行排名的谱算法的逐项误差。该研究侧重于 Bradley-Terry-Luce (BTL) 模型，并研究了半随机对手如何通过操纵边采样概率来影响性能。研究结果表明，无权谱方法的有效性与图的谱属性相关，但重新加权边可以将性能恢复到与均匀采样图相当的水平。
-
大型维度下的谱算法揭示了三种学习曲线模式
一篇新发表在arXiv上的研究论文探讨了大型维度设置下谱算法的学习曲线和良性过拟合现象。该研究描述了不同正则化路径下的超额风险，确定了三种不同的模式：过度正则化、欠正则化和插值。在与回归函数平滑度相关的特定条件下，良性过拟合发生在后两种模式中。