新框架对偶化柯尔莫哥洛夫结构函数，连接信息论与统计力学

研究人员开发了一个新的框架，用于对偶化柯尔莫哥洛夫结构函数，从而可以使用可计算的复杂度代理。这项工作在信息论和统计力学之间建立了数学类比，引入了配分函数和自由能泛函。该研究证明了结构函数与自由能之间的Legendre-Fenchel对偶性，将接受概率解释为信息论散射振幅，并在损失-复杂度权衡中识别模型复杂度的相变。使用线性模型和基于树的模型进行的实验已验证了这些理论预测。 AI

影响 引入了一个新颖的理论框架来分析模型复杂度，有望在AI模型中实现更鲁棒的泛化和过拟合检测。

排序理由 该集群包含一篇在arXiv上发表的学术论文，详细介绍了信息论和统计力学在模型复杂度应用方面的理论进展。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• Alexander Kolpakov
• arXiv
• Hugging Face
• Kolmogorov
• Metropolis

• 论文
• 其他

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →