reproducing kernel Hilbert space
PulseAugur coverage of reproducing kernel Hilbert space — every cluster mentioning reproducing kernel Hilbert space across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
新的RKHS框架增强了永久过程模型
研究人员为永久过程模型开发了一个新的框架,该框架包含固定效应。这种扩展允许将永久过程的强度函数分解为固定效应项和再生核希尔伯特空间(RKHS)内的函数。该方法有助于更清晰的科学解释,并更容易地将领域知识整合到估计过程中。
-
为表示复杂度引入新的变分布朗核梯队框架
研究人员引入了变分布朗核梯队(VBKL),一个旨在增强表示复杂度的新型函数空间框架。该框架将字典的递归构造与线性变分叠加分开。VBKL空间被定义为已完成字典的有符号测度变分外壳,其中每个递归字典由布朗回拉RKHS球组成。该研究还建立了变分控制的Hölder正则性,并使用布朗二次混沌和VC熵推导出泛化界。
-
新框架在非凸环境中实现最优和受约束学习
研究人员开发了一个用于非凸环境约束统计学习的新框架,旨在同时实现最优性和约束满足。该方法利用再生核希尔伯特空间内的通用假设类来调和泛化要求与强拉格朗日对偶性。该方法建立了通用的 PACC(在约束条件下可能近似正确)可学性,提供了多项式于所需精度的显式样本复杂度界限。
-
机器学习中条件期望算子新判据
一篇新论文介绍了一个可验证的判据,用于理解条件期望算子(CEOs)和条件均值嵌入(CMEs)。这些概念在非参数回归、贝叶斯逆问题和库普曼算子理论等领域至关重要。研究表明,CEOs的映射性质由条件律的Radon-Nikodym密度的正则性决定。该论文提供了一个简单的条件,以确保CEO是有界的且是Hilbert-Schmidt的,这有助于验证CME表示和估计器的误差界。
-
MoCA框架增强可穿戴设备多模态数据分析
研究人员推出MoCA,一个新颖的自监督学习框架,用于分析来自可穿戴设备的多模态数据。该框架采用Transformer架构结合掩码自编码器原理,利用独特的跨模态掩码策略来利用不同传感器数据流之间的相关性。MoCA旨在通过有效利用未标记的多模态可穿戴设备数据和处理缺失模态来解决数字健康测量中的挑战,例如缺乏金标准标签和数据不完整。该方法在数据重建和下游分类任务中均表现出性能提升。
-
新的贝叶斯优化技术应对复杂的科学和工程问题 · 跟踪4个来源
近期研究论文探讨了用于复杂问题的贝叶斯优化(BO)技术的进展。一项研究介绍了“脱离循环”(Out-Of-The-Loop)MF-BO,它结合了历史高保真数据,在最高保真度直接访问成本过高时改进优化。另一篇论文提出了一种双层BO方法,该方法利用具有黑盒和白盒变量的问题中的可分离性,在基准测试中表现优于标准方法。此外,还提出了一个名为“Tempered Posteriors”的框架,通过调整高斯过程代理来增强BO的鲁棒性,在局部采样下表现…
-
新研究探讨了RKHS中优化问题的预期改进策略
本文研究了在再生核希尔伯特空间(RKHS)中优化确定性目标函数的预期改进(EI)策略。研究人员使用具有Matérn和平方指数核的高斯过程模型分析了EI的性能,并为简单遗憾建立了有限预算界限。研究结果表明,EI策略在RKHS球上实现了Matérn核的minimax速率最优性,以及平方指数核的近最优性。
-
新的RKHS框架揭示了对抗性训练的权衡
研究人员开发了一个新的理论框架,用于在再生核希尔伯特空间(RKHS)的背景下理解对抗性训练。他们的分析揭示了对抗性鲁棒性与泛化准确性之间存在根本性的权衡,表明与最小最大预测基准相比,对抗性训练可能导致统计准确性下降。为了缓解这种情况,他们提出了一种两阶段去噪程序,旨在提高泛化率并达到最小最大多项式速率。
-
新的PIKS方法提供通用物理信息核学习
研究人员推出了一种新的物理信息机器学习方法——物理信息核方法(PIKS),旨在克服现有方法的局限性。与难以优化的物理信息神经网络(PINNs)不同,PIKS提供了解析可处理性和闭式解。该方法旨在处理可能不满足传统核方法严格正则性假设的物理目标。PIKS已证明在线性微分约束方面具有通用一致性,并在数值实验中取得了与PINNs和有限元方法相比具有竞争力的结果。
-
DriftXpress 通过新的RKHS场方法加速生成模型训练
研究人员开发了DriftXpress,这是一种用于漂移模型的新公式,可显著加快其训练过程。该方法在低秩特征空间中近似漂移核,在降低训练成本的同时保持标准漂移模型的生成质量。DriftXpress 提供了一种更有效的一步生成建模方法,在不牺牲推理速度的情况下推动了训练-推理权衡的界限。
-
研究发现高斯RBF RKHS渐近地趋近于欧几里得空间
一篇新的研究论文探讨了高斯RBF再生核希尔伯特空间(RKHS)的渐近行为及其与欧几里得空间的关系。研究表明,在高带宽极限下,高斯RBF RKHS渐近地等距于欧几里得空间。这种收敛意味着依赖于RKHS度量属性的基于核的方法将趋近于线性核的结果,这一发现得到了实验的支持,实验表明数据偏心率的度量可以预测收敛行为。
-
新的变分框架通过稀疏监督增强图像分割
研究人员开发了一种新的统一变分框架,用于利用稀疏像素级监督的图像分割。该方法采用具有平滑周长正则化的单形约束Potts模型,创建了一个凸且平滑的能量函数。该函数可用作弱监督深度学习的训练损失,或直接进行优化。通过在再生核希尔伯特空间(RKHS)中进行函数扩展问题,将稀疏标签集成,形成模糊隶属函数,有效处理不均匀的强度统计。所得离散损失在实验中表现出稳健的性能,并优于现有基线,在无需完整地面真实分割图像的情况下取得了可比的结果。
-
新方法使用 Koopman 算子回归控制非线性系统
研究人员开发了一种在再生核希尔伯特空间中使用 Koopman 算子回归控制非线性系统的方法。该方法从有限样本中估计未知动力学,从而得到一个线性的切换预测模型,其中控制变量决定切换。然后将学习到的动力学应用于通过模型预测控制解决的无限时域最优控制问题。该工作包括对学习率和次优性的理论分析,并通过 Duffing 振荡器的数值模拟得到支持。
-
新研究探讨统计逆向学习与 $\ell^1$ 正则化技术 · 跟踪 4 个来源
研究人员发表了关于统计逆向学习的新工作,重点关注具有随机观测的问题以及 $\ell^1$ 正则化的应用。其中一篇论文详细介绍了希尔伯特尺度下的谱正则化和投影正则化方面的进展,分析了收敛速度并将概念应用于药代动力学/药效动力学模型。另一项研究引入了用于图像去噪的变换 $\ell_1$ (TL1) 梯度正则化,与传统的全变分方法相比,旨在更好地保留尖锐边缘和分段光滑区域。第三篇论文探讨了使用 $\ell^1$ 正则化经验风险最小化从嘈杂的…
-
FlatManifold框架解决了持续学习中的标签噪声和域偏移问题
研究人员推出FlatManifold,一个专为应对显著标签噪声和域偏移环境中的鲁棒持续学习而设计的新型框架。该方法利用Nyström流形展平映射,采用核技巧并投影到正交化的再生核希尔伯特空间(RKHS)。通过将特征分布映射到具有脊正则化的固定正交拓扑,FlatManifold 内在地平滑了极端标签噪声的影响,并通过持续拓扑制动项防止灾难性遗忘。
-
量子核带土优化平衡表达能力与可学性
研究人员开发了使用量子核的高斯过程带土优化新方法,特别解决了嘈杂中等规模量子(NISQ)时代面临的挑战。该研究侧重于平衡量子核的表达能力与其可学性,而可学性可能因高维和复杂性而受阻。为解决此问题,该团队提出了投影量子核和经典核近似技术,这些技术在降低维度的同时保留了关键的量子特性。这些方法旨在提高样本效率并减少量子原生应用的计算开销。
-
新方法近似多任务回归的全一致性预测
研究人员开发了一种用于再生核希尔伯特空间(RKHS)中多任务回归问题的近似全一致性预测区域。该方法通过设计一个理论上有界且经验上被证明在合成数据上优于分裂一致性预测的近似方法,解决了精确全一致性预测的计算难题。该方法详细介绍了已知和估计的任务间协方差矩阵的情况。
-
新的暖启动策略加速高斯过程推理
研究人员开发了新的暖启动策略来加速高斯过程(GP)推理,这是主动学习和贝叶斯优化等任务的关键组成部分。这些方法利用来自较小线性系统的解,在用新数据更新 GP 后验时显著加快收敛速度。理论分析和经验结果表明,这些暖启动技术可以实现高达 19 倍的速度提升,并产生更准确的后验估计,从而提高优化性能。
-
新的吉布斯分布提高了蒙特卡洛积分的准确性
研究人员开发了一种新颖的吉布斯分布,旨在改进蒙特卡洛积分方法。随着温度参数的降低,该分布的支持集中在 MMD 最小化器周围,与标准蒙特卡洛求积法相比,在无限维再生核希尔伯特空间中提供了更紧密的集中不等式和更小的置信区间。虽然理论误差界与 i.i.d. 蒙特卡洛相匹配,但改进的集中度提供了实际优势。使用简单的 MCMC 链进行的数值实验表明,从该吉布斯分布采样可以产生近似样本,从而增强目标积分的置信区间,这与理论发现一致。
-
新定理详述核梯度流和提升中的波动
研究人员为核梯度流和无穷小梯度提升建立了函数中心极限定理。该定理详细说明了该过程在其确定性极限附近的波动,表明重缩放的偏差收敛于高斯过程。分析在再生核希尔伯特空间内进行,将提升过程表征为常微分方程的解。该方法涉及 Banach 空间中 ODE 的一般随机扰动分析,适用于其他领域,并首先在核梯度流上进行了演示,然后应用于更复杂的梯度提升设置。