学习动力学重塑神经网络和大脑的内部表征

一篇新发表在arXiv上的论文详细介绍了学习过程如何重塑神经网络内部表征中的幂律各向异性。研究人员分析了一个两层线性神经网络，发现局部幂律指数在训练过程中非单调演变，可能进入多达四个不同的渐近状态。输入统计和任务结构之间这种动态的相互作用，似乎是生成幂律内部表征的一种通用机制，这种现象在人工智能语言模型和像小鼠大脑皮层这样的生物系统中都有观察到。 AI

影响 为理解驱动人工智能模型表征学习的基本机制提供了见解。

排序理由 该集群包含一篇详细介绍神经网络内部表征研究结果的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv stat.ML 阅读 →

• arXiv
• CatalyzeX Code Finder for Papers
• CORE Recommender
• DagsHub
• Gotit.pub
• Hugging Face
• IArxiv Recommender
• Influence Flower
• Language Models
• mouse cerebral cortex
• ScienceCast
• two-layer linear neural network

• 论文
• 其他

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →