Hellinger distance
PulseAugur coverage of Hellinger distance — every cluster mentioning Hellinger distance across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的XGML框架利用大脑图分析预测阿尔茨海默病
研究人员开发了一种新颖的可解释图论机器学习(XGML)框架,用于预测阿尔茨海默病(AD)及相关的认知能力下降。该方法从FDG-PET数据构建个体代谢大脑图,识别出对多变量疾病结果最具预测性的子图。最佳配置在八项认知评分中实现了显著的r=0.595相关性,在ADAS13、ADAS11和ADASQ4上表现强劲。该框架还识别了可能作为认知能力下降网络生物标志物的关键边缘,尽管在另一队列上的初步验证显示结果较弱。
-
新研究揭示了 token 嵌入中的几何偏差及其对语言模型训练的影响
三篇新的 arXiv 论文探讨了语言模型中 token 嵌入的几何和统计特性。第一篇论文在 token 嵌入表的原点附近发现了一个“短行中心”,它会夸大内在维度估计值,并表明移除该中心可以使 GPT-2、K3 和 GLM-4.7 等模型的维度读数更加一致。第二篇论文引入了“上下文阶梯”概念,描述了嵌入如何随着训练的进展逐步学习更复杂、依赖于上下文的统计特征。第三篇论文开发了一个将 token 预测与表示几何联系起来的统计框架,展示了预…
-
相关高斯序列的新经验贝叶斯方法
研究人员开发了一种用于相关高斯序列模型中经验贝叶斯估计的新方法。该方法利用最大复合边际似然(CML)估计量,通过在似然函数中忽略相关性来有效处理依赖观测。CML估计量显示出以 $n_*^{-1/2}$ 的速率收敛,其中 $n_*$ 是有效样本量,表明在一般依赖性下接近最优速率。该方法应用于贝叶斯线性回归和贝叶斯非线性单指标模型,利用了辅助统计量的高维分布。
-
新的降维方法利用信息几何学改进分类
研究人员推出了一种名为监督二次特征分析(SQFA)的新型降维方法,该方法利用信息几何学。该方法利用费舍尔信息度量和费舍尔-Rao距离来衡量类别差异性,将概率分布视为统计流形上的点。SQFA学习优化这些距离的线性特征,旨在提高分类准确性。一种变体SQFA-H,它最大化Hellinger距离,在真实世界数据集上表现出与现有最先进方法相当或更优的性能。
-
新不等式阐明高斯混合模型距离关系
研究人员建立了新的不等式,精确定义了高斯混合模型总变差距离与Hellinger距离之间的关系。他们的发现提供了一个通用上限,表明Hellinger距离受总变差距离的幂次控制。这项工作解决了该领域的一个开放性问题,并为高斯混合模型的学习提供了熵特征化,对鲁棒估计和经验贝叶斯方法具有启示意义。