研究人员开发了一种新方法,可以直接在人工神经网络(ANN)的高维输入空间中可视化和测量其决策边界的几何结构。该方法避免了传统基于投影技术的失真,并分析了不同输入、架构和训练方法下的边界曲率和距离。研究结果表明,决策边界通常在大而连续的子空间内接近输入样本,并且对抗性训练显著减小了数据集样本附近的边界距离和曲率。研究得出结论,训练方法对边界距离和曲率的影响比网络架构或测试集准确率更大,为提高网络可解释性奠定了基础。 AI
影响 提供了一种理解和潜在改进人工神经网络可解释性的新方法。
排序理由 这是一篇发表在arXiv上的研究论文,详细介绍了一种分析神经网络的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- artificial neural network
- arXiv
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- DagsHub
- David Luis Schultheiss
- Gotit.pub
- Hugging Face
- IArxiv Recommender
- Influence Flower
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →