一篇新的研究论文探讨了残差网络(ResNets)的内部工作机制,提出它们隐式地执行一种软路由。通过分析在 ImageNet 上训练的 ResNet-18 和 ResNet-34 模型,研究发现虽然所有网络块都会为每个输入执行,但这些块之间的特定交互会根据输入和预测类别而变化。这表明不同的输入利用网络内不同的“专家”交互,即使没有显式的路由机制。 AI
影响 提出了对深度学习模型如何处理信息的新理解,可能影响未来的架构设计。
排序理由 学术论文,详细介绍了关于模型架构的新发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →