Multi-Layer Perceptrons
PulseAugur coverage of Multi-Layer Perceptrons — every cluster mentioning Multi-Layer Perceptrons across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
高斯表示在医学影像中优于隐式方法
一篇新的arXiv论文认为,显式基元表示,特别是基于高斯的表示,在医学影像任务中优于隐式神经表示。该论文强调,虽然隐式方法提供了高保真度,但其计算成本和内存需求对于高分辨率数据来说是重大的瓶颈。相比之下,高斯表示在显微镜组织学和计算机断层扫描数据集的实验中,展示了更低的优化时间和内存使用量,同时匹配或超越了重建指标。
-
新框架通过分段仿射抽象优化神经网络验证
研究人员开发了一个新的框架,用于验证使用非线性激活函数的神经网络。该方法构建了网络优化的分段仿射抽象,用更简单的分段仿射函数和有界误差项替换复杂的激活函数。采用动态规划算法来寻找最优抽象,平衡分段数量、全局误差和验证复杂度。该方法适用于包括多层感知机和Kolmogorov-Arnold网络在内的各种网络架构,并在基准测试中展示了更紧密的输出界限。
-
网络分析改进不可靠新闻检测
研究人员通过分析Telegram上的URL共享模式,开发了一种检测不可靠新闻域名的新方法。他们构建了一个域名共现网络,揭示出不可靠和可靠新闻域名倾向于分开聚类。与不考虑网络的基线方法相比,图神经网络(GNN),特别是GraphSAGE,表现出更优越的性能,准确率相对提高了13-14%。这种方法即使在内容分析具有挑战性的情况下也证明是有效的,突显了网络拓扑在评估新闻可靠性方面的效用。
-
AI模型学会追踪物理学中复杂的Seiberg对偶
研究人员开发了一种机器学习方法来识别超对称箭袋规范理论中的对偶性,这项任务对于传统方法来说计算量很大。通过采用Transformer和多层感知器,与确定性算法相比,新技术在较小的箭袋上表现出更高的效率和准确性。集成路径查找算法,类似于‘箭袋的谷歌地图’,进一步增强了这种AI驱动策略的性能,为理论物理学中先进的AI模型提供了有希望的基准。
-
AI模型学会追踪理论物理中的Seiberg对偶
研究人员正在采用机器学习技术,特别是Transformer和多层感知机,来识别超对称箭袋规范理论中的对偶性。这种方法旨在计算确定两个系统何时等价,这项任务对于传统方法来说可能具有挑战性。研究发现,这些AI模型在最多十个节点的系统上优于确定性算法,并且通过集成寻路算法实现了进一步的改进。这项工作为将先进AI模型应用于理论物理问题提供了一个新的基准。
-
KANs在结构化数据上优于MLPs,但计算成本更高
arXiv上发表的一项新研究将Kolmogorov-Arnold网络(KANs)与传统的Multi-Layer Perceptrons(MLPs)在结构化数据分类任务上进行了比较。研究发现,KANs在二分类和多分类数据集上统计上优于MLPs,提供了显著的总体优势。然而,这种改进的泛化能力是以参数和计算复杂度显著增加为代价的,这表明在资源受限的环境中,MLPs仍然是一个可行的选择。
-
神经网络对大量损坏的输入表现出惊人的鲁棒性
研究人员探索了神经网络如何在输入数据严重损坏的情况下仍能保持准确性。他们对多层感知机的实验表明,即使超过90%的输入被损坏,远远超出人类识别能力,网络仍能表现出远高于随机猜测的性能。对无限宽度网络的分析揭示了这些网络实现了一种通用的原型规则,本质上是将输入分配给它们最接近的训练集平均值的类别,这解释了这种惊人的鲁棒性。
-
混合KAN-MLP模型提高了人类活动识别的准确性
研究人员开发了一种混合神经网络架构KAN-MLP-Mixer,它将Kolmogorov-Arnold网络(KANs)的精确性与多层感知器(MLPs)的噪声鲁棒性和效率相结合。该方法战略性地整合了KAN模块用于输入嵌入和分类,同时利用MLPs进行中间特征混合。在八个公共数据集上进行测试,KAN-MLP模型在宏F1分数上比纯MLP模型平均提高了5.33%,显著优于独立的KAN和MLP基线。
-
研究人员发现 GNN 可精确执行图算法
研究人员开发了一种方法,使图神经网络(GNN)能够精确执行图算法。他们的方法包括训练多层感知机(MLP)来处理局部节点指令,然后将这些指令集成到 GNN 中进行推理。该技术已在特定约束条件下证明了对消息泛洪、BFS、DFS 和 Bellman-Ford 等算法的精确学习能力。
-
MLP秩正则化提升隐式神经表示保真度
研究人员证明,标准多层感知机(MLP)在隐式神经表示(INR)中表示高频内容的能力不足并非架构限制。相反,他们提出训练过程中稳定的秩退化是主要原因。通过在训练过程中调节网络的秩,即使是简单的MLP架构也能实现显著更高的保真度,在图像合成和医学成像等各种领域,PSNR(峰值信噪比)的提升高达9 dB。
-
Holomorphic KAN-ODE 模型以可解释方程模拟复杂动力学
研究人员开发了一个名为 Holomorphic KAN-ODE 的新框架,将 Kolmogorov-Arnold Networks (KANs) 集成到神经常微分方程 (Neural ODEs) 中。该方法通过纳入复分析先验并遵守 Cauchy-Riemann 条件,旨在更好地模拟具有分形边界的复杂动力学系统。与传统的 MLP 相比,Holomorphic KAN-ODE 框架表现出卓越的性能,在重建动力学系统、识别控制方程以及提高对…
-
深度强化学习解决柔性车间调度问题
研究人员开发了一种使用深度强化学习(DRL)的新方法来解决复杂的柔性车间调度问题(FJSP),特别是在面对随机作业到达时。他们的方法采用带有前馈神经网络的近端策略优化算法,旨在最小化所有作业的总完成时间。模拟表明,这种DRL策略优于单独的调度规则,并且在与传统的混合整数线性规划解决方案相比时具有竞争力,尤其是在异构数据集上。
-
KANs为低延迟系统实现超快片上在线学习
研究人员展示了使用Kolmogorov-Arnold网络(KANs)在现场可编程门阵列(FPGAs)上实现超快在线学习的能力。该方法在低延迟、资源受限的任务中,在效率和表达能力上均优于传统的Multi-Layer Perceptrons(MLPs),实现了亚微秒级的适应时间。研究强调了KANs对定点量化的鲁棒性及其稀疏更新特性,使其适用于量子计算和核聚变控制等高要求应用。