PulseAugur
实时 10:48:26
English(EN) A Compositional Theory of Curvature in Probabilistic Circuits

新理论解释概率电路中的曲率

研究人员开发了一种组合理论来理解概率电路(PC)中的曲率,PC 是一种生成模型。他们证明了 Hessian 迹(一种损失曲面曲率的度量)可以精确地分解为 PC。这种分解表明,每个求和节点对 Hessian 迹的贡献是其电路流和局部锐度项的乘积。这一见解有助于解释为什么全局锐度正则化可能存在深度偏差并导致欠拟合,从而促使引入一个针对局部曲率的自适应正则化器。 AI

影响 这项研究提供了对模型训练动态更细致的理解,有望提高生成模型的泛化能力。

排序理由 该集群包含一篇详细介绍概率电路新理论框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新理论解释概率电路中的曲率

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Hrithik Suresh, Sahil Sidheekh, Shelar Parth Vijay, Yasir Z, Sriraam Natarajan, Narayanan Chatapuram Krishnan ·

    概率电路曲率的构成理论

    arXiv:2608.12869v1 Announce Type: cross Abstract: Probabilistic Circuits (PCs) are generative models that support exact inference and, unlike deep neural networks, admit an exact and tractable measure of loss-surface curvature: the trace of the Hessian of the log-likelihood. Rece…