PulseAugur
实时 10:19:50

LSTM网络在最佳训练时表现出近乎临界动力学

研究人员探索了人工神经网络中的临界性概念,特别是在长短期记忆(LSTM)模型中。他们观察到,经过最佳训练的小型LSTM会表现出无标度雪崩统计和近乎临界点的动力学。LSTM中这种近乎临界行为似乎是依赖于网络容量的涌现特性,而较大的模型则保持在次临界状态。 AI

排序理由 学术论文,详细介绍神经网络动力学研究成果。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Feixiang Ren, Ling Feng ·

    Towards Critical Branching Mechanism in Recurrent Neural Networks

    arXiv:2606.10384v1 Announce Type: cross Abstract: Criticality has been proposed as a key organizing principle in biological neural systems, yet its origin and relevance in artificial neural networks remain unclear. We analyze hidden-state dynamics in trained long short-term memor…