English(EN) Geometric Entropy and Retrieval Phase Transitions in Continuous Thermal Dense Associative Memory

连续热密集联想记忆中的几何熵和相变分析

作者 PulseAugur 编辑部 · [1 个来源] · 2026-05-07 04:00

本文探讨了现代Hopfield网络的理论记忆容量，特别是具有连续状态的密集联想记忆模型。它推导了这些网络的य thermodynamic phase boundaries，并比较了高斯核和Epanechnikov核。研究表明，几何熵依赖于球形几何而非核函数，并阐明了类似注意力机制的记忆架构中检索鲁棒性的基本限制。 AI

影响推进了对高容量联想记忆及其对现代类似注意力机制架构影响的理论理解。

排序理由这是一篇在arXiv上发表的理论研究论文，详细介绍了联想记忆模型的进展。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.LG TIER_1 English(EN) · Tatiana Petrova, Evgeny Polyachenko, Radu State · 2026-05-07 04:00

Geometric Entropy and Retrieval Phase Transitions in Continuous Thermal Dense Associative Memory

arXiv:2604.07401v2 Announce Type: replace-cross Abstract: We study the thermodynamic memory capacity of modern Hopfield networks (Dense Associative Memory models) with continuous states under geometric constraints, extending classical analyses of pairwise associative memory. We d…

报道来源 [1]

Geometric Entropy and Retrieval Phase Transitions in Continuous Thermal Dense Associative Memory

相关实体

相关话题