Reproducing Kernel Hilbert Spaces
PulseAugur coverage of Reproducing Kernel Hilbert Spaces — every cluster mentioning Reproducing Kernel Hilbert Spaces across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
新研究探讨统计逆向学习与 $\ell^1$ 正则化技术 · 跟踪 4 个来源
研究人员发表了关于统计逆向学习的新工作，重点关注具有随机观测的问题以及 $\ell^1$ 正则化的应用。其中一篇论文详细介绍了希尔伯特尺度下的谱正则化和投影正则化方面的进展，分析了收敛速度并将概念应用于药代动力学/药效动力学模型。另一项研究引入了用于图像去噪的变换 $\ell_1$ (TL1) 梯度正则化，与传统的全变分方法相比，旨在更好地保留尖锐边缘和分段光滑区域。第三篇论文探讨了使用 $\ell^1$ 正则化经验风险最小化从嘈杂的…
-
新研究推进共识预测以进行不确定性量化 · 跟踪 5 个来源
研究人员开发了共识预测的新方法，这是一种用于量化机器学习模型不确定性的框架。一篇论文提出了概率伯努利预测集（BPS），它可以表达偶然性和认知不确定性，并为有效的可信集实现条件覆盖。另一种方法侧重于在再生核希尔伯特空间（RKHS）内有效地逼近完整的共识预测区域。此外，还引入了一个名为 RoBAS 的鲁棒贝叶斯辅助共识预测框架，该框架能够适应贝叶斯先验的可靠性，从而生成有效的预测集，尤其是在分布偏移的情况下。
-
新框架使用小型模型指导复杂AI教师开发
研究人员推出了一种新颖的反向知识蒸馏框架Knowledge Cascade (KCas)，旨在解决开发复杂机器学习模型的计算需求。与传统的知识蒸馏不同，KCas使用一个更小、成本更低的student模型来指导创建更复杂的teacher模型。当teacher模型的构建是主要瓶颈时，这种方法特别有用。KCas在非参数多变量函数估计、核密度估计和深度学习超参数迁移等应用中，已证明了显著的计算节省和强大的统计性能。
-
新研究探讨Reproducing kernel Hilbert spaces中的非参数回归
两篇新研究论文探讨了Reproducing kernel Hilbert spaces中的高级非参数回归技术。第一篇论文详细介绍了正则化M估计的综合理论，为各种损失函数建立了存在性和可测量性，并证明了尖锐的收敛速度。第二篇论文介绍了一种在这些空间中进行监督学习的子采样方案，旨在降低计算成本同时保持准确性，并通过数值研究证明了其可行性。
-
新框架统一了深度神经网络的表示成本
一篇新的研究论文介绍了一个统一的框架，用于分析参数化数据拟合方法的表示成本。该框架揭示了包括核方法、小波和浅层神经网络在内的各种模型的诱导函数空间，并将它们视为特例。对于具有ReLU激活的深度神经网络，该论文证明了它们的原生空间是拟Banach空间，其中归纳偏倚无法通过深度大于二的范数来捕捉。
-
新的SVM框架增强了重尾数据的量化回归
研究人员开发了一种新的支持向量机（SVM）框架，以改进具有重尾输入的重尾数据的量化回归。该方法侧重于极端观测值的角度分量，以增强外推场景下的泛化能力。该框架专为高维和非线性数据设计，提供理论保证，并通过对河流流量数据的实证研究证明了其实际相关性。
-
新方法为核回归提供严格的不确定性界限
研究人员开发了一种在新方法，用于在再生核希尔伯特空间中计算多元函数的严格、确定性不确定性界限。该方法旨在处理有界噪声条件，并且可以轻松集成到现有的高斯过程置信界限框架中。新方法推广了先前结果，并通过一个与四旋翼飞行器学习动力学相关的示例进行了演示。
-
研究人员探索复值再生核希尔伯特空间中的复杂SGD和方向性偏差
研究人员提出了一种新颖的随机梯度下降（SGD）变体，专为复值神经网络设计。这种新方法称为复杂SGD，即使没有解析度约束也能提供收敛保证，这与实值领域中的进展相呼应。该研究还表明，在实值核回归问题中观察到的方向性偏差特性已扩展到复数域。实证结果展示了复杂SGD在复值再生核希尔伯特空间内的核回归任务中的有效性，能够恢复超振荡函数和Blaschke乘积等特定函数。