English(EN) Causal Explanations from the Geometric Properties of ReLU Neural Networks

新方法利用几何学解释ReLU神经网络

作者 PulseAugur 编辑部 · [1 个来源] · 2026-05-11 11:39

研究人员开发了一种新方法，通过分析ReLU神经网络的几何特性来理解其决策过程。该方法将神经网络视为将输入空间划分为不同的区域，每个区域由一个线性函数控制。通过直接从几何结构中提取规则，该方法为网络的行为提供了准确的因果解释，解决了确保自主系统安全性的一个关键挑战。 AI

影响为理解神经网络决策提供了一种更准确、更可靠的方法，这对于安全关键型自主系统至关重要。

排序理由详细介绍一种新的神经网络行为解释方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.NE (Neural & Evolutionary) TIER_1 English(EN) · Rob Alexander · 2026-05-11 11:39

Causal Explanations from the Geometric Properties of ReLU Neural Networks

Neural networks have proved an effective means of learning control policies for autonomous systems, but these learned policies are difficult to understand due to the black-box nature of neural networks. This lack of interpretability makes safety assurance for such autonomous syst…