实体
ReLU-MLP
ReLU-MLP
PulseAugur coverage of ReLU-MLP — every cluster mentioning ReLU-MLP across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的 MACCHIATO 算法增强了 ReLU-MLP 在布尔任务上的可解释性
研究人员开发了一种名为 MACCHIATO 的新颖训练算法，用于 ReLU-MLP，旨在增强布尔任务的可解释性。该方法同时构建显式的 ReLU-MLP 和相应的布尔电路，为模型的计算提供认证保证。该算法通过迭代地将残差投影到电路类并将其编译成 MLP，结合了逻辑最小化和变量选择技术。在合成任务上的实验表明，在特定的数据稀疏区域，MACCHIATO 训练的网络在性能上可以优于标准的 Adam 训练的 MLP，同时在某些复杂的逻辑综合场景…
-
新公式为Lipschitz回归提供闭式解
研究人员开发了一种用于度量空间上一致Lipschitz回归的新型闭式公式，相比传统的深度神经网络方法有了重大进展。这个两阶段的组合公式实现了零优化误差，并提供了高概率的统一恢复保证。该公式的最优性在函数空间、参数空间和前向传播方面得到了证明，并针对输入空间为[0,1]^d的ReLU-MLP和ReLU-multi-head transformer给出了具体的算法实现。