实体
Disordered Systems and Neural Networks
Disordered Systems and Neural Networks
PulseAugur coverage of Disordered Systems and Neural Networks — every cluster mentioning Disordered Systems and Neural Networks across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新理论分析神经网络中记忆模式的稳定性
研究人员开发了一种新理论来分析吸引神经网络中存储模式的动力学稳定性，吸引神经网络是生物记忆的模型。该理论通过考虑分级神经活动和噪声的存在，并使用随机矩阵理论的方法，扩展了先前的方法。该研究确定了一个决定存储模式是否稳定的“临界稳定性负载”，这一概念不同于经典的临界容量。研究结果表明，稀疏类模式和阈值线性激活函数提供了计算优势，并为神经回路提供了可检验的预测。
-
动态相位选择控制循环Transformer中的计算扩展
研究人员发现，循环Transformer在推理过程中的计算成本由其动态相位决定，而动态相位受初始化影响。具有相同架构和目标但初始化不同的网络会进入不同的动态相位，从而导致不同的计算扩展行为。该研究详细介绍了特定的分岔机制，如鞍节点折叠和Neimark-Sacker跃迁，如何区分这些相位并影响测试时的计算量。
-
论文揭示线性回归模型的可解释性限制
一篇新发表在arXiv上的论文探讨了多重线性回归模型在可解释性方面的局限性，特别是在处理多重共线性时。该研究从理论上分析了相关的输入特征如何导致权重不稳定和振荡，从而阻碍物理解释。虽然Ridge正则化可以抑制这些不稳定的模式，但论文强调，即使在这些比深度神经网络更简单的模型中，解释所得权重时仍需谨慎。