neuron
PulseAugur coverage of neuron — every cluster mentioning neuron across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
神经网络通过反向传播和梯度下降进行学习
神经网络通过一个涉及前向传播以进行预测,以及反向传播以调整权重的过程来学习。反向传播计算损失函数相对于每个权重的梯度,指示最小化误差所需的改变方向和大小。该过程依赖链式法则将误差信息从输出层高效地传播回输入层,使网络能够从错误中学习。
-
研究论文分析偏置对密集联想记忆容量的影响
一篇新研究论文探讨了偏置对密集联想记忆绝对容量的影响,特别是在 Krotov-Hopfield 模型背景下。该研究分析了二元模式中的偏置如何影响记忆容量,揭示了容量的不同渐近形式,这取决于多项式交互的阶数和偏置的程度。对于固定偏置,容量分别以 O(N^(n/2)) 或 O(N^((n+1)/2)) 的形式随 N 增长(对于偶数或奇数交互阶数),这与无偏模式中观察到的 O(N^(n-1)/ln N) 容量形成对比。研究表明存在由偏置引起…
-
新型海马网络模型通过动态弛豫实现最优导航
研究人员开发了一种新颖的海马递归网络模型,该模型通过动态弛豫实现了最优的目标导向导航。该模型将空间位置表示为神经元活动,并使用连接权重来表示转移概率,障碍物则由消失的权重表示。网络通过行为时间尺度的突触可塑性学习这些连接,并在接收到目标信号后,其动力学弛豫成一个在数学上等同于线性可解马尔可夫决策过程(LMDP)的活动场。这种方法为在复杂环境中导航提供了一种高效且鲁棒的方法,其潜在应用超越了空间导航,可用于大脑中抽象理性地图中的一般规划。
-
新框架解释神经元延迟如何决定事件与序列检测
研究人员开发了一个延迟签名框架,以理解神经元如何检测神经信号中的时间特征。该框架提出,汇聚到树突分支的轴突传导延迟起着关键作用,只允许特定的输入序列同步到达。这些延迟的弥散决定了神经元是检测单个事件还是有序序列,窄弥散有利于序列检测。这种解剖学上的区别可能与髓鞘形成有关,并且该模型还根据时间容差和传导速度预测皮层柱直径。
-
Saab 发布高端自主作战飞机概念
Saab 发布了其 A3 协作作战飞机概念,该飞机被设计为一款高端、自主、超音速、无尾的飞行器。该概念旨在补充现有的有人战斗机(如 Gripen E),并可能为未来的瑞典作战飞机奠定技术基础。Saab 还在开发另外两款无人作战飞机演示机 A1 和 A2,其中 A1 计划在 15 个月内首飞,A2 则计划在本十年末首飞。
-
AMD代码现已合入NVIDIA的NIXL库,结束了10年的阻碍 · 追踪6个来源
SemiAnalysis报道称,AMD工程师现在可以直接向NVIDIA的NIXL推理通信库贡献代码更改。此前,NVIDIA在长达十年间基本阻止AMD合入其代码。通过过去两年的努力,SemiAnalysis促成了和解,导致NVIDIA接受了AMD的拉取请求。此次集成于2026年6月完成,消除了AMD维护独立分支的需要,节省了大量工程时间。
-
新的V-FIND框架揭示了视频伪造检测器中的内在知识
研究人员开发了一个名为V-FIND的新框架,以更好地理解视频伪造检测器的工作原理。V-FIND旨在揭示这些检测器内部区分真实视频和伪造视频的具体知识,而不是将它们视为黑箱。该框架识别出编码这种“取证知识”的专用神经元,并将它们组织到一个紧凑的子空间中。这种方法即使在仅用这个子空间训练一个轻量级分类器,并冻结原始检测器的情况下,也能实现有效的伪造检测。
-
神经网络入门:受人脑启发的简单指南
本文解释了神经网络的基本概念,将其与人脑的神经元和突触结构进行类比。文章分解了输入层、隐藏层和输出层这三个主要层级,详细说明了它们在处理数据和做出决策方面的各自功能。解释强调了神经网络如何通过一种称为反向传播的过程进行学习,通过调整“权重”来提高准确性,而无需深入复杂的数学公式。
-
AI 基础:理解神经元及其在神经网络中的作用
本文解释了人工神经网络的基本计算单元:神经元。它详细介绍了神经元如何处理数值输入,受权重和偏置的影响,然后应用激活函数产生输出。解释涵盖了将文本和图像等原始数据转换为数值格式的过程,并强调了随机权重初始化和非线性激活函数对于使网络学习复杂模式的重要性。
-
新方法揭示Transformer FFN中的稀疏依赖性
研究人员开发了一种新方法来理解Transformer神经网络的内部工作原理,重点关注前馈网络(FFN)层。他们的无训练归因技术表明,尽管参数密集,FFN神经元仍表现出稀疏的层间依赖性。这种稀疏性允许在屏蔽大部分上游输入的情况下高保真地保留神经元激活,这表明了更高效推理的潜在途径。
-
神经网络通过分布式、多任务神经元存储知识,挑战了先前的假设
长期以来,研究人员一直在思考,当神经网络拥有的神经元数量少于它们似乎理解的概念时,它们是如何存储知识的。最初的假设是单个神经元代表不同的概念,但这一假设已被观察到的神经元充当多任务处理者的现象所挑战,它们对法律术语和数学符号等各种输入做出反应。这表明概念可能不是孤立存储的,而是通过一种更复杂、分布式的机制来存储的。
-
研究人员量化人工神经元以增强机器学习能力
研究人员开发了一种量化人工神经元的新方法,将经典机器学习组件与量子物理原理联系起来。通过将神经元视为能量和激活函数的组合,他们用量子哈密顿量替换了能量函数,并通过矩阵泛函微积分应用了激活。这创建了一个可在量子态上测量的“激活可观测量”,从而实现了用于从量子数据中学习和估计梯度的混合量子经典算法。数值实验表明,与经典神经元相比,这些量化神经元具有更强的表达能力,确立了正则化量化作为量子机器学习原语的可行框架。
-
神经生物学家苏智颖从美国移居中国,担任研究职务
神经生物学家苏智颖已从美国移居中国,加入了深圳的SMART研究所。苏曾任学院副院长,她表示该研究所先进的硬件和学术氛围,以及院长颜宁的领导,是她此次搬迁的关键原因。她的实验室专注于感觉信号传导,特别是嗅觉感受器神经元如何处理气味信息,研究成果发表在《Nature》和《Neuron》等知名期刊上。
-
大脑的双语处理方式与大型语言模型(LLMs)的向量空间同构相似
科学家发现,双语者的大脑使用一种几何图谱来组织单词,这与大型语言模型(LLMs)利用向量空间同构的方式相似。这项发表在《Cell》杂志上的研究记录了单个神经元的活动,发现不同语言的概念在这个图谱上占据着镜像位置,反映了它们的语义关系。值得注意的是,一个多语言AI模型mBERT独立地得出了一个相似的、用于表示多种语言的共享几何结构,这表明这种方法是多语言系统的基本解决方案。
-
CALHippo 使用机器学习绘制大脑3D细胞结构
研究人员开发了CALHippo,一个用于在3D中绘制人脑海马体中神经元和胶质细胞的新系统。该系统利用最先进的分割网络,如CellPoseSAM,从高分辨率脑切片中识别和分类细胞类型。然后,它采用基于UNet的密度估计模型将这些注释映射到低分辨率切片上,生成概率细胞位置图,并最终重建海马体的3D点云。
-
强调了生物学在人工智能发展中的基础作用
人工智能的发展,特别是神经网络,受到了生物学过程的显著启发。早期的感知器模仿了生物神经元接收、整合和传递信号的功能。这个基本概念,以感知器为例,早于现代的Transformer架构和大语言模型。
-
脉冲神经网络:人工智能的第三代
脉冲神经网络(SNNs)代表了第三代神经网络技术,与传统的深度学习模型不同。与连续激活不同,SNNs 在时间上利用离散脉冲,这些脉冲的定时携带信息。这种事件驱动的稀疏脉冲机制有望在神经形态芯片上实现显著降低的功耗,使其具有高能效。然而,训练这些不可微分的脉冲仍然是一个关键挑战,与传统网络的准确性差距仍在解决中。
-
NEURON:生物物理神经网络仿真的工具
NEURON 是一个仿真环境,专为构建和执行单个神经元及神经网络的生物物理细节模型而设计。该工具对于神经科学和计算生物学领域的研究人员和开发人员特别有用。
-
新的协同进化方法增强了脉冲神经网络的性能
研究人员开发了一个用于优化脉冲神经网络(SNN)的协同进化框架,解决了其复杂搜索空间的挑战。这种新方法基于每个网络对集成性能的边际贡献来定义适应度,鼓励专业化和互补性。在分类、回归和控制任务上的评估表明,与传统的单网络进化和事后集成相比,性能有了显著提高,特别是在标准方法失败的控制任务上。
-
AI奖励模型显示出有用性与无害性之间的张力
一篇新的研究论文探讨了AI奖励模型中“有用性”与“无害性”之间的张力,这是从人类反馈中强化学习(RLHF)的一个关键组成部分。研究发现,在混合目标上训练的模型通常表现不如在单一目标上训练的模型,这表明目标之间存在干扰。通过识别和消融特定的神经元,研究人员观察到这些神经元在因果上支持一个目标,同时对另一个目标产生负面影响,共享神经元在这种对齐张力中起着重要作用。这些发现为理解多目标对齐为何具有挑战性提供了机制性见解,并为开发更分离和可控…