reproducing kernel Hilbert space
PulseAugur coverage of reproducing kernel Hilbert space — every cluster mentioning reproducing kernel Hilbert space across labs, papers, and developer communities, ranked by signal.
9 天有情绪数据
-
新研究探讨统计逆向学习与 $\ell^1$ 正则化技术 · 跟踪 4 个来源
研究人员发表了关于统计逆向学习的新工作,重点关注具有随机观测的问题以及 $\ell^1$ 正则化的应用。其中一篇论文详细介绍了希尔伯特尺度下的谱正则化和投影正则化方面的进展,分析了收敛速度并将概念应用于药代动力学/药效动力学模型。另一项研究引入了用于图像去噪的变换 $\ell_1$ (TL1) 梯度正则化,与传统的全变分方法相比,旨在更好地保留尖锐边缘和分段光滑区域。第三篇论文探讨了使用 $\ell^1$ 正则化经验风险最小化从嘈杂的…
-
FlatManifold框架解决了持续学习中的标签噪声和域偏移问题
研究人员推出FlatManifold,一个专为应对显著标签噪声和域偏移环境中的鲁棒持续学习而设计的新型框架。该方法利用Nyström流形展平映射,采用核技巧并投影到正交化的再生核希尔伯特空间(RKHS)。通过将特征分布映射到具有脊正则化的固定正交拓扑,FlatManifold 内在地平滑了极端标签噪声的影响,并通过持续拓扑制动项防止灾难性遗忘。
-
量子核带土优化平衡表达能力与可学性
研究人员开发了使用量子核的高斯过程带土优化新方法,特别解决了嘈杂中等规模量子(NISQ)时代面临的挑战。该研究侧重于平衡量子核的表达能力与其可学性,而可学性可能因高维和复杂性而受阻。为解决此问题,该团队提出了投影量子核和经典核近似技术,这些技术在降低维度的同时保留了关键的量子特性。这些方法旨在提高样本效率并减少量子原生应用的计算开销。
-
新的暖启动策略加速高斯过程推理
研究人员开发了新的暖启动策略来加速高斯过程(GP)推理,这是主动学习和贝叶斯优化等任务的关键组成部分。这些方法利用来自较小线性系统的解,在用新数据更新 GP 后验时显著加快收敛速度。理论分析和经验结果表明,这些暖启动技术可以实现高达 19 倍的速度提升,并产生更准确的后验估计,从而提高优化性能。
-
新的吉布斯分布提高了蒙特卡洛积分的准确性
研究人员开发了一种新颖的吉布斯分布,旨在改进蒙特卡洛积分方法。随着温度参数的降低,该分布的支持集中在 MMD 最小化器周围,与标准蒙特卡洛求积法相比,在无限维再生核希尔伯特空间中提供了更紧密的集中不等式和更小的置信区间。虽然理论误差界与 i.i.d. 蒙特卡洛相匹配,但改进的集中度提供了实际优势。使用简单的 MCMC 链进行的数值实验表明,从该吉布斯分布采样可以产生近似样本,从而增强目标积分的置信区间,这与理论发现一致。
-
新定理详述核梯度流和提升中的波动
研究人员为核梯度流和无穷小梯度提升建立了函数中心极限定理。该定理详细说明了该过程在其确定性极限附近的波动,表明重缩放的偏差收敛于高斯过程。分析在再生核希尔伯特空间内进行,将提升过程表征为常微分方程的解。该方法涉及 Banach 空间中 ODE 的一般随机扰动分析,适用于其他领域,并首先在核梯度流上进行了演示,然后应用于更复杂的梯度提升设置。
-
已撤回的 arXiv 论文将度量熵与 RKBS 可嵌入性联系起来
一篇由作者 Yiping Lu 最近撤回的研究论文探讨了度量熵与函数空间嵌入再生核巴拿赫空间 (RKBS) 之间的关系。该研究建立了一种新颖的联系,表明函数空间的度量熵增长的界限允许其嵌入到 $L_p$ 型 RKBS 中。这一发现表明,$L_p$ 型 RKBS 为具有受控度量熵的可学习函数类别提供了广泛的框架,可能阐明核方法在学习复杂函数空间方面的能力和局限性。
-
新研究分析用于域自适应的Nyström子采样
本文深入探讨了在协变量偏移下,当目标函数不在再生核希尔伯特空间内(即误设情况)时,Nyström子采样应用于无监督域自适应的收敛性质。研究提出了一种结合Tikhonov正则化和Nyström投影的方法,以建立高概率超额风险界。此外,该研究还处理了Radon-Nikodym导数未知且必须被近似的情况,详细说明了实现Oracle情况收敛速率所需的样本量。
-
新的核检验通过聚焦关键方向来提高统计功效
研究人员开发了一种新的基于核的统计检验方法,该方法改进了现有的最大均值差异(MMD)等方法。这种新颖的方法截断了MMD的光谱分解,专注于鲁棒的主导特征方向,同时丢弃了噪声分量。该方法在处理高维和不平衡数据集时,表现出优越的功效和鲁棒性,同时保持严格的I类错误控制。此外,它引入了一种计算效率高的参数自举程序来近似临界值,为基于置换的方法提供了一种更快的替代方案。
-
新的因果推断方法使用核平衡处理复杂疗法
研究人员开发了一种新的基于核的函数平衡方法,用于因果推断,专门针对组合式处理。该方法通过在再生核希尔伯特空间内最小化最坏情况平衡误差来构建权重。所提出的增强加权估计量 (AWE) 在无需准确估计或假设权重平滑度的情况下实现了理论一致性,并通过模拟和实际应用验证了其性能。
-
新AI方法增强机器人和手术中的点云配准
两篇新研究论文探讨了点云配准的高级技术。第一篇Generalized-CVO使用黎曼优化,在LiDAR和RGB-D数据的处理速度上比以前的方法快10倍,显著减少了在挑战性环境中的漂移。第二篇GAPR-Net采用基于Transformer的架构进行点云从局部到整体的配准,在涉及胫骨和股骨等骨骼结构的 the surgical applications 中表现出高精度。
-
新方法增强大型AI模型的不确定性量化能力
研究人员正在开发新方法来改进大型模型中的不确定性量化。一种方法,语义高斯过程不确定性(SGPU),分析答案嵌入的几何结构,以估计语义一致性,而无需脆弱的聚类。另一个框架,方差门控集成(VGE),使用信噪比门将认知敏感性注入不确定性估计。这些方法旨在为高风险应用中的决策提供更可靠、更准确的不确定性估计。
-
新方法利用假设结构控制错误发现
研究人员开发了一个新颖的框架,通过利用假设内部固有的结构来控制大规模假设检验中的错误发现。该方法将结构化 FDR 控制重构为正则化学习问题,利用再生核希尔伯特空间 (RKHS) 通过核选择统一图和层次结构等各种数据结构。该方法允许更平滑的解决方案和原则性的超参数调整,提供改进的发现能力并支持样本高效的实验设计。
-
新论文探讨正权重核积分的凸几何界限
研究人员为正权重核积分(一种在平滑被积函数方面可超越蒙特卡洛技术的方法)开发了新的理论界限。研究表明,在正性约束下优化积分权重受候选样本的随机凸包控制,而非简单的平均。这种几何洞察力带来了改进的误差界限,在某些谱域中实现了接近 $O(1/N)$ 的速率,并实现了超越蒙特卡洛的性能。
-
核仿射包络机提供计算高效的语义编码
研究人员开发了核仿射包络机(KAHMs),以提高基于Transformer的检索系统中语义编码的效率。这些机器在指定的RKHS中估计原型混合权重,并通过归一化最小均方误差来优化原型,以降低在线查询编码成本。KAHMs在奥地利法律基准测试中表现出色,实现了强大的重建指标,并将每查询延迟降低了8.5倍,相比直接Transformer编码。
-
新框架统一了用于条件分布比较的核嵌入方法
研究人员引入了一个名为条件最大均值差异(CMMD)的统一框架来测量条件分布之间的差异。该框架包括各种基于核的度量,例如 CMMD$_0$、CMMD$_1$ 和 CMMD$_2$,并提供了一个通用的 $s$ 级 CMMD。还提出了一种新颖的双重稳健估计器,如果至少一个底层模型被正确指定,该估计器将保持一致。论文通过数值实验表明,CMMD 在统计检验中能有效识别复杂的条件依赖关系。
-
新研究探讨了神经网络中超越ReLU的激活函数
一篇新论文探讨了神经网络核的理论基础,特别关注标准ReLU之外的激活函数。研究人员表征了各种非光滑激活函数的Reproducing Kernel Hilbert Spaces (RKHS),将现有理论扩展到SELU、ELU和LeakyReLU等函数。研究结果表明,许多常见的激活函数在不同网络深度下会产生等效的RKHS,而多项式激活函数则显示出与深度相关的RKHS。该研究还深入探讨了无限宽网络中神经网络高斯过程(NNGP)样本路径的光滑性。
-
研究人员开发了用于学习具有算子值核的算子的 SGD 算法
研究人员开发了一种在统计逆问题中估计回归算子 的新方法。该方法利用正则化随机梯度下降 (SGD) 和算子值核,为预测和估计误差提供了与维度无关的界限。该技术提供了接近最优的收敛速度和高概率估计,适用于结构化预测和参数化偏微分方程。
-
新方法利用子空间近似解决RKHS中的动态遗憾问题
研究人员开发了一种新的方法,用于再生核希尔伯特空间(RKHS)中的在线回归,该方法解决了动态遗憾问题。该方法通过子空间近似将有限维技术应用于RKHS设置。该方法包括在固定子空间内针对不同的折扣因子运行一组折扣预测器,并通过核截面的投影误差来管理近似误差。
-
研究人员探索鲁棒的分布外优化和随机函数最大化
研究人员提出了一种新颖的鲁棒分布外随机优化框架,旨在即使在历史数据与目标分布不完全匹配的情况下也能做出有效决策。该方法从相关数据分布中学习一个不确定性集,并将其纳入最小-最大随机规划中,提供了严格的泛化保证。在新闻供应商和投资组合优化任务上的实验表明,该方法在未见过分布下的性能优越。此外,还提出了一种名为StoSOO的新算法,用于带有噪声评估的全局函数最大化,该算法在对函数的半度量没有先验知识的情况下运行,并实现了近乎最优的性能。