artificial neural network
PulseAugur coverage of artificial neural network — every cluster mentioning artificial neural network across labs, papers, and developer communities, ranked by signal.
- instance of DagsHub 90%
- instance of Gotit.pub 90%
- instance of alphaXiv 90%
- instance of ScienceCast 90%
- instance of deep learning 90%
- instance of multilayer perceptron 90%
- instance of neuron 90%
- used by backpropagation 90%
- used by Gotit.pub 70%
- instance of spiking neural network 70%
- uses spiking neural network 70%
- competes with kriging 70%
17 天有情绪数据
-
新的FOSLS-deRhaNN神经网络架构解决了复杂的偏微分方程
研究人员开发了FOSLS-deRhaNN，这是一种新颖的神经网络架构，旨在解决H(div)和H(curl)等特定数学空间内的偏微分方程（PDE）。该方法构建了原生于这些图空间的神经逼近类，避免了基于网格的仿真。FOSLS-deRhaNN方法利用弱形式的自然空间中的最小二乘函数，使其能够处理包括具有不连续系数的椭圆方程和具有激波的守恒律在内的复杂问题。
-
量子比特中心Transformer推进量子纠错
研究人员开发了一种新颖的量子比特中心Transformer（QCT）解码器，用于量子纠错，该解码器利用深度学习和具有专业量子比特中心注意力机制的Transformer架构。这种方法将稳定子综合症转化为量子比特中心令牌，从而能够识别潜在的逻辑错误。QCT解码器采用基于图的掩码方法，该方法考虑了量子码的拓扑结构，并将注意力集中在相关的量子比特交互上。它在表面码方面表现出最先进的性能，显著优于现有的神经解码器和信念传播基线，并在去极化噪声下…
-
新方法解决了低时间步长脉冲神经网络中的共模误差问题
研究人员发现，在低模拟时间步长下运行时，共模误差是深度脉冲Q网络（DSQNs）的一个主要限制因素。这些跨动作值共享的误差严重阻碍了时间差学习。为解决此问题，他们提出了一种共模补偿深度脉冲Q网络（CMC-DSQN），该网络使用一个辅助人工神经网络来纠正这些误差。这种方法可以直接从SNN输出进行高效推理，在保持能效的同时，在Atari和MiniAtar环境中取得了显著的性能提升，在更高时间步长下甚至超过了现有的DSQNs和ANN基线。
-
AI混合设计赋能高效的机器人集群视觉导航
研究人员开发了一种新颖的、由AI驱动的为机器人集群设计分布式控制器的方法，使其能够在复杂环境中自主进行视觉导航。该方法结合了多智能体强化学习和神经进化策略，特别是使用交叉熵方法和协方差矩阵自适应进化策略来优化预训练的导航策略。该系统依赖于一个紧凑的神经网络，仅使用单目摄像头图像，优先考虑计算和能源效率，以实现实际的机器人集群部署。仿真实验表明，交叉熵方法控制器比协方差矩阵自适应进化策略的探索覆盖率提高了36.20%，并且基于视觉的策略…
-
新的神经物理逆模型框架增强了地球物理数据分析
研究人员开发了神经物理逆模型（NPI），一个专为地球物理反演设计的新型框架，特别适用于磁大地电场（MT）数据。该模块化系统集成了基于集成的条件化与残差学习，利用高斯过程和神经网络来提高准确性并量化不确定性。在合成数据上的初步测试表明，NPI能够在不影响结果可靠性的前提下减少误差，并且将其应用于内华达州加布斯谷地热区的真实世界数据时，也显示出可比的不确定性减少。
-
分析 Adam 优化器与自然梯度下降的几何偏差
一篇新研究论文调查了深度学习中常用的优化算法 Adam 及其与自然梯度下降 (NGD) 的关系。该研究分析了 Adam 的更新规则，包括动量，并将其视为对经验 Fisher 矩阵的近似，并进行了多项修改。研究人员在各种损失曲面上测量了 Adam 相对于 NGD 的几何偏差，发现偏差是依赖于上下文的，在病态条件和非凸神经网络中显著增加。虽然较高的几何漂移与较慢的初始优化相关，但并未损害最终目标最小化，这表明 Adam 的有效性可能源于近…
-
新的 Q-迭代方法解决了连续动作零和马尔可夫博弈问题
研究人员开发了一种在线拟合 Q-迭代新方法，用于连续动作零和马尔可夫博弈。该方法利用凸凹神经网络函数逼近器来确保极小极大问题的纯策略鞍点。该研究为具有连续状态和动作的非线性二次博弈建立了有限样本保证，标志着该领域的一项重大进展。
-
新研究将参数对称性与神经网络中的表示几何联系起来
一篇新发表在arXiv上的研究论文探讨了过参数化非线性神经网络中参数对称性与表示几何之间的关系。研究表明，一类参数对称性可以分解为三种基本特征变换：加法、复制和缩放。这种分析可以将表示几何分解为基本和辅助组件，阐明在保持函数固定的情况下，退化如何随着过参数化而增加。研究还表明，特定的实现级别选择规则可以解决这种退化，从而产生可识别的反映网络功能贡献的几何形状。
-
SpikeMoE：脑启发式脉冲神经网络集成专家混合模型以实现能效
研究人员开发了SpikeMoE，一个结合了脉冲神经网络（SNNs）和专家混合模型（MoE）的新框架，用于更灵活和节能的神经网络架构。SpikeMoE受大脑海马体CA1区竞争性神经过程的启发，使用基于脉冲的路由器根据神经活动选择专家。在视觉、语言和多模态任务上的实验表明，SpikeMoE在SNNs中取得了最先进的成果，媲美或超越了传统人工神经网络，并展示了处理缺失数据的鲁棒性。
-
新的脉冲对比注意力模块提高了变换器的效率
研究人员开发了一种名为脉冲对比注意力（SCA）的新模块，以提高脉冲变换器（一种节能神经网络）的性能。通过分析这些网络的频谱特性，他们发现它们充当低通滤波器，丢失高频信息。SCA通过模仿生物视觉系统的边缘检测能力，使用对比原型和差分细化来增强高频分量，从而解决这个问题。该模块在图像分类和语义分割等各种任务中都显示出持续的改进，同时与现有方法相比，保持了较低的复杂性和卓越的效率。
-
脉冲神经网络增强实时量子比特读出
研究人员开发了一种使用脉冲神经网络（SNN）的新方法，用于在量子处理器中更快、更准确地分配量子比特状态。这些SNN实时处理测量数据，在获取读出信号时提供不断变化的分类分数。这种流式处理能力优于传统的匹配滤波技术，并且在准确性上接近全轨迹人工神经网络，有潜力在FPGA硬件上实现低延迟、实时的量子比特读出。
-
神经网络通过反向传播和梯度下降进行学习
神经网络通过一个涉及前向传播以进行预测，以及反向传播以调整权重的过程来学习。反向传播计算损失函数相对于每个权重的梯度，指示最小化误差所需的改变方向和大小。该过程依赖链式法则将误差信息从输出层高效地传播回输入层，使网络能够从错误中学习。
-
LLM引导进化搜索原生脉冲神经网络架构
研究人员开发了OpenArchEvo，一个利用大型语言模型（LLM）进化脉冲神经网络（SNN）原生神经架构的新颖系统。与改编现有的人工神经网络（ANN）设计的传统方法不同，OpenArchEvo探索开放程序空间，从而能够发现专门针对脉冲计算优化的架构。该方法旨在提高SNN在序列建模任务中的能效和性能。该系统使用三视图表示（代码、原理、行为指纹）来估计新颖性和预测性能，从而降低了发现新架构的计算成本。
-
新方法通过神经网络推进摊销贝叶斯推理 · 跟踪 2 个来源
两篇新提交至 arXiv 的研究论文介绍了用于摊销贝叶斯推理的新颖方法。第一篇论文提出使用辅助监督来缓解贝叶斯推理神经网络优化中的表示差距，从而实现更快的收敛和更好的性能，尤其是在数据有限的情况下。第二篇论文提出了一种用于任意结构多层模型上摊销贝叶斯推理的通用方法，该方法从有向无环图表示自动推导出因子分解和神经网络架构。这种方法保留了所有条件独立性假设，并与黄金标准采样器非常匹配，同时将推理简化为快速前向传播。
-
神经网络学会像人类一样进行基于上下文的记忆检索
研究人员开发了一种增强了情景记忆缓冲区的循环神经网络（RNN），该网络可以推断情景上下文并相应地调整其理解和记忆检索。该模型的活动模式与人类在上下文调节其工作记忆时的神经反应非常相似。此外，与没有上下文调节的模型相比，该网络能更有效地检索与上下文一致的记忆，这表明了一种计算机制，解释了上下文如何在自然环境中影响记忆。
-
神经网络方法估计用于MPC的RC热建筑模型参数
一篇新的研究论文介绍了一种“从头开始估计器”的方法，用于估计RC热建筑模型中的参数，这对于节能模型预测控制（MPC）至关重要。该方法将物理方程嵌入神经网络的训练过程中，以克服传统算法的局限性，例如局部最小值和高计算成本。一个增强版本“预训练估计器”通过在多栋建筑的数据上进行预训练，进一步提高了准确性并消除了对初始猜测的需求，在各种基准测试中展示了卓越的预测性能和更低、更一致的MPC成本。
-
模拟计算赋能低晶体管损伤检测系统
研究人员开发了一种用于超声波检测的全模拟损伤检测系统，旨在克服数字处理的局限性。该新系统利用模拟电子技术进行信号处理和特征提取，包括模拟希尔伯特变换和用于分类的模拟人工神经网络。目标是创建一个晶体管数量少于100个的损伤检测系统，与传统的数字方法相比，显著降低能耗和复杂性。该系统将在带有缺陷的钢板信号上进行测试。
-
作者认为公众误解AI，主张使用领域特定的工具
作者认为公众普遍误解人工智能（AI），常常将其等同于大型语言模型（LLM）和企业产品。他们强调，自1956年以来一直存在的AI领域，是用于研究和数据分析的实用工具，其中机器学习（ML）和人工神经网络是关键组成部分。作者主张使用领域特定的、本地训练的模型，而不是大型、不受监管的企业AI数据中心，并对环境影响和知识产权表示担忧。
-
BLADE框架优化混合SNN-ANN以实现可靠的边缘AI目标检测
研究人员开发了BLADE，一种用于选择事件驱动目标检测中脉冲神经网络（SNN）和人工神经网络（ANN）之间边界的新颖方法。与以往仅关注准确性和能耗的方法不同，BLADE动态优化此边界以及ANN早期退出配置，同时考虑可靠性、检测准确性、执行时间和能耗。该框架通过统计故障注入来整合可靠性分析，识别出浮点指数位等关键组件，这些组件在受到保护时可以消除灾难性故障。该方法旨在实现更可靠的混合SNN-ANN系统在安全关键型边缘AI应用中的部署。
-
NeuroFlex 实现无损的逐元素人工神经网络-脉冲神经网络协同执行，用于高效稀疏推理
研究人员开发了 NeuroFlex，一种新颖的加速器设计，它允许在逐元素级别上协同执行人工神经网络（ANN）和脉冲神经网络（SNN）。这种方法使得每个输出元素都可以独立地分配给 ANN 或 SNN 执行，消除了准确性损失并显著提高了处理效率。与现有的仅 ANN 或仅 SNN 基线相比，NeuroFlex 在各种工作负载中实现了高 PE 利用率，并显著降低了能耗延迟积并增加了加速。