Hilbert-Schmidt Independence Criterion
PulseAugur coverage of Hilbert-Schmidt Independence Criterion — every cluster mentioning Hilbert-Schmidt Independence Criterion across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究阐明了机器学习中无界核的性质
一篇新发表在arXiv上的论文探讨了机器学习和统计学中无界核的性质。该研究填补了在理解无界核的不同表达能力概念(如特征核和$L_p$-通用核)之间的关系方面的一个重要空白。作者在温和的假设下建立了这些关系,为核方法(特别是在最大均值差异和核Stein差异等度量背景下)的理论基础做出了贡献。
-
新的图字典学习框架使用最优传输改进分类
研究人员开发了一个新的图字典学习(GDL)框架,该框架将图表示为从其滤波拉普拉斯算子导出的零均值高斯分布。该框架使用学习到的原子图的质心来近似观测到的图,并使用一种新颖的滤波器图距离(fGOT)度量进行测量。通过一种称为代理fGOT(sfGOT)的可处理近似来最小化重构误差,该近似通过反向传播进行端到端优化,并与Hilbert-Schmidt独立性准则相关联,以最大化节点谱嵌入之间的统计依赖性。实验表明,该方法在图聚类和分类任务中取得…
-
新方法通过联合分布分析实现公平的AI表征
研究人员提出了一种新的方法,用于在处理连续敏感属性时实现机器学习中的公平表征。该方法侧重于表征与敏感属性的联合分布与其边际乘积之间的联合差异。这条联合分布路线绕过了对条件分布的非参数代理的需求,允许直接从样本中估计,并可能缩短训练时间。
-
新的U统计量框架使用超图理论进行统计界定
一篇新论文介绍了一种理解和构造U统计量(一类基本的统计估计量)的新方法。该研究利用超图理论和组合设计来绕过传统的分析工具,为不完整的U统计量提供了Berry-Esseen界。该框架在退化情况下也建立了高斯极限分布的条件,并提出了构造这些统计量的高效算法,旨在为假设检验提供无排列的对应方法。
-
新的LOKI方法增强了语言模型的终身知识编辑能力
研究人员开发了LOKI,一种用于语言模型终身知识编辑的新方法,旨在高效地用新信息更新模型,同时保留过去的知识。与修改固定层的先前方法不同,LOKI使用希尔伯特-施密特独立性准则动态选择层,并将梯度更新投影到模型权重的零空间中。这种方法无需访问先前知识或进行广泛的预处理,在各种实验中平均准确率提高了14%。
-
新的鞅检验将变量独立性检查速度提高了 60 倍
研究人员开发了一种名为鞅核独立性检验(mHSIC 和 mdHSIC)的新统计检验方法,用于有效评估变量的独立性。这种新方法提供了显著的速度提升,比现有的基于排列的检验快 25 到 60 倍,它通过用单次正态分位数查找替换计算密集型的排列步骤来实现。mHSIC 统计量实现了二次成本,并对所有固定替代项保持一致,而 mdHSIC 统计量提供了具有有限样本一致性的线性成本(相对于被测变量的数量)。
-
新算法为乘积核方法计算精确 Shapley 值
研究人员开发了 PKeX-Shapley,这是一种新颖的算法,旨在计算机器学习中乘积核方法的精确 Shapley 值。这种新方法利用乘积核的乘法结构,在特征数量上实现了二次时间复杂度,显著优于现有的基于近似的方法。该算法提供了一种无参数的解决方案,不需要采样或密度估计,并且可以扩展到最大均值差异和 Hilbert-Schmidt 独立准则等统计分析。