PulseAugur
实时 09:34:42
English(EN) Information from coincidences

统一的代数恒等式统一了信息论概念

一篇新论文引入了一个统一的代数框架,用于信息论变分结果,将经验分布的集中度、假设检验误差指数和测度变化不等式等不同概念整合到一个恒等式下。该恒等式将经典的Renyi熵和散度公式推广到多个先验,并适用于非归一化分布。研究展示了其在大字母表上的应用,包括语言模型和人类基因组序列,以区分相关和多样化的先验族。 AI

影响 引入了一个新颖的数学框架,可能增强对AI模型的理解和开发,特别是在语言建模和序列分析等领域。

排序理由 详细介绍信息论新理论框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv stat.ML 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

统一的代数恒等式统一了信息论概念

报道来源 [2]

  1. arXiv stat.ML TIER_1 English(EN) · Akshay Balsubramani ·

    Information from coincidences

    arXiv:2606.25042v1 Announce Type: cross Abstract: We prove a single algebraic mixed coincidence identity that unifies a broad swath of information-theoretic variational results. For any family of priors $\{\pi_i\}$ and real exponents $\{ \alpha_i \}$, the log of the mixed count $…

  2. arXiv stat.ML TIER_1 English(EN) · Akshay Balsubramani ·

    Information from coincidences

    We prove a single algebraic mixed coincidence identity that unifies a broad swath of information-theoretic variational results. For any family of priors $\{π_i\}$ and real exponents $\{ α_i \}$, the log of the mixed count $E_{x\simν}\!\left[\prod_{i=1}^W π_i^{α_i}(x)\right]$ is s…