Bayesian Neural Networks
PulseAugur coverage of Bayesian Neural Networks — every cluster mentioning Bayesian Neural Networks across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
新概念LPA解释了图神经网络中不确定性的降低
研究人员引入了潜在后验对齐（LPA）这一新概念，解释了具有贝叶斯输出层的图神经网络（GNNs）中预测不确定性如何降低。这种现象发生在潜在表示向低方差后验方向移动时，即使没有直接的后验方差收缩。为了利用这一点，研究团队开发了对齐引导学习（AGL），一种促进LPA的训练方法，可在保持准确性和提高模型置信度校准的同时，有效降低预测不确定性。
-
新的AI方法在不确定性下优化3D打印质量 · 跟踪3个来源
研究人员开发了优化熔丝制造（FFF）过程的新方法，重点是在不确定性下提高零件质量。一种方法使用贝叶斯神经网络来预测几何精度和丝材结合质量，结合模型和输入不确定性来优化喷嘴温度和速度等参数。另一篇论文提出了一个计算框架，将传热分析与烧结模型相结合，以最大化丝材结合质量，使用Sobol指数进行敏感性分析，并使用高斯过程来管理模型差异。第三项研究探讨了物理信息和混合机器学习策略，将物理知识整合到深度神经网络中，即使在实验数据有限的情况下也能…
-
新研究探索深度学习中的不确定性量化在各种应用中的潜力
三篇新研究论文探讨了深度学习模型中不确定性量化的先进技术。第一篇论文介绍了直觉模糊深度随机神经网络（IF-dRVFL和IF-edRVFL），以提高分类任务中对噪声数据和异常值的鲁棒性。第二篇论文对基因组学应用中的不同不确定性量化方法进行了实证分析，包括深度集成、贝叶斯神经网络和蒙特卡洛-dropout，发现贝叶斯神经网络对于不平衡和分布外数据更可靠。第三篇论文提出了一种两步MV-DeepONet用于概率算子学习，增强了不确定性传播中跨…
-
AI通过神经符号和BNN方法推进光子组件设计
研究人员开发了使用AI设计光子组件的新方法。一种方法，“光子贝叶斯神经网络的约束协同设计”，通过解决光子实现中的硬件约束来专注于改进贝叶斯神经网络的不确定性估计。另一种方法，“PixCell”，使用神经符号系统将光子组件的视觉表示转换为可执行的参数化程序，实现了高精度，并能够训练Qwen3.6 35B-A3B等大型语言模型，而无需监督演示。
-
新调查详细介绍了面向可信深度学习的不确定性量化
一篇新发布的arXiv调查论文详细介绍了深度学习中不确定性量化的方法，重点关注与安全关键应用中可信AI相关的技术。该论文将方法分为贝叶斯神经网络、蒙特卡洛Dropout、深度集成和单通道方法。它还回顾了用于总结不确定性的度量，并讨论了在大型语言模型中的应用，强调了开放的研究方向。
-
t分布在贝叶斯神经网络中优于高斯分布
研究人员探讨了不同似然分布对贝叶斯神经网络（BNNs）性能的影响。虽然高斯分布因计算方便常用于模拟BNNs中的不确定性，但本研究调查了替代分布是否能产生更好的结果。研究结果表明，无论数据或网络架构如何，使用t分布作为似然函数都能持续提高预测性能，优于高斯假设。此外，t分布在保持易于实现的同时，还有可能缩短训练时间。
-
Neural network generalization near interpolation analyzed via statistical mechanics · 2 sources tracked
两篇新的arXiv论文探讨了具有广泛宽度的浅层神经网络在插值阈值附近的泛化能力。该研究使用统计力学分析了这些网络，揭示了在泛化误差独立于权重分布的通用阶段和泛化误差依赖于权重分布的专业化阶段之间存在一个相变。研究结果表明，虽然在插值附近存在高度预测性的解，但由于统计-计算差距，实际算法可能难以找到它们。
-
New method disentangles model and human uncertainty in facial age estimation
研究人员开发了一种方法，用于区分面部年龄估计任务中的模型不确定性和人类数据不确定性。通过在具有不同数据量的 APPA-REAL 数据集上训练贝叶斯神经网络，他们观察到认知不确定性（模型不确定性）随着数据的增加而减少，而随机不确定性（固有的数据噪声）保持稳定。这项工作展示了量化面部年龄估计中不同不确定性来源的能力。
-
新的SCROLL方法通过Bethe自由能优化贝叶斯神经网络
研究人员开发了一种训练贝叶斯神经网络的新方法，称为SCROLL（Shared-Cavity fRee-rOuting Last-Layer）。该方法优化Bethe自由能而非典型的证据下界（ELBO），旨在实现网络组件之间的局部一致性。SCROLL专为单次训练而设计，可以处理各种似然函数，在多个基准数据集上显示出预测准确性和校准方面的性能提升。
-
新的贝叶斯深度学习方法增强了可解释性和模型压缩能力
研究人员引入了一种名为输入跳跃潜在二值贝叶斯神经网络（ISLaB）的新方法，以增强深度学习模型的可解释性并降低其复杂性。该方法允许协变量跳过层或被排除，从而简化网络结构并更清晰地了解输入如何影响预测。ISLaB 显著降低了网络密度，实现了超过 99% 的压缩率，同时保持了高准确性和预测不确定性，并在 MNIST 数据库等基准测试中展示了最先进的压缩效果。
-
贝叶斯神经网络：无限宽度匹配多项式宽度可学性
研究人员发表了一篇论文，详细介绍了均值场贝叶斯神经网络的宽度鲁棒可学性定理。该研究表明，对于布尔立方体目标，无限宽度下的可学性等同于多项式宽度下的可学性，前提是约简熵有界多项式。这一发现表明，无限宽度极限通过有效子采样神经元同时保留学习到的函数，可以准确地描述学习过程，而不会引入虚假的泛化能力。
-
新的BiLoc框架使用1比特激光雷达实现高效自主定位
研究人员开发了BiLoc，一个新颖的二值神经网络框架，用于6-DoF激光雷达定位，旨在为自主系统提供计算效率。该方法通过信息瓶颈原理重新解释了BNN训练，以保留姿态估计的关键表示，同时最大限度地减少信息损失。引入了一个辅助目标来适应性地调节信息保留，补偿二值化和梯度不匹配的固有局限性。在大规模激光雷达数据集上的实验表明，BiLoc在基于BNN的激光雷达定位方面取得了最先进的性能。
-
贝叶斯神经网络利用对称性提升深度学习性能
研究人员探讨了对称性在深度学习中的作用，特别是在贝叶斯神经网络（BNNs）中。他们研究了在网络架构上施加对称性约束或通过数据增强学习对称性是否能产生更好的结果。该研究侧重于BNNs中的变分推断，并推导了实现精确等变性的条件以及等变性误差的界限。引入了三种新颖的对称化技术，其中“轨道扩展”在等变性和总体结果方面均表现出优越性能。
-
新的 B-PINN 框架增强了材料退化预测的不确定性量化
研究人员开发了一个新的贝叶斯物理信息神经网络（B-PINN）框架，旨在改进预测与健康管理（PHM）中的不确定性量化。这种新颖的方法联合建模了认知不确定性和偶然不确定性，为估算绝缘材料老化等应用提供了更全面的预测后验。该框架在变压器绝缘老化方面进行了评估，并通过热模型和现场测量进行了验证，与现有的确定性 PINN 和贝叶斯 PINN 变体相比，展示了更高的准确性和校准度。
-
深度学习模型在机械故障诊断中的不确定性评估
一篇新发表在arXiv上的研究论文探讨了各种深度学习模型在诊断旋转机械故障方面的有效性，特别关注它们处理不确定性的能力。该研究比较了基于dropout的方法、贝叶斯神经网络和深度集成模型等，评估了它们在检测由未见故障（认知不确定性）和噪声（随机不确定性）引起的分布外数据方面的性能。研究结果表明，深度集成模型在检测认知不确定性方面通常优于其他模型，同时在抵抗随机不确定性方面也表现出更强的鲁棒性，因此因其准确性和效率而成为首选。
-
新型TreeGRNG提供高效概率AI硬件
研究人员开发了TreeGRNG，一种新颖的二叉树高斯随机数生成器，专为高效概率AI硬件设计。这项创新解决了贝叶斯神经网络中传统高斯随机数生成器所面临的显著功耗和计算需求。TreeGRNG在每样本能耗方面实现了3.7倍的降低，在单位面积吞吐量方面提高了5.8倍，同时还提供了调整概率分布的更大灵活性。
-
新方法解耦神经网络中的偶然不确定性和认知不确定性
研究人员开发了一种新颖的方法来解耦神经网络中的偶然不确定性和认知不确定性。通过协同训练一个方差估计网络和一个贝叶斯神经网络，所提出的方法提高了均值估计，并能预测这两种类型的不确定性。该技术已在包括自定义的随时间变化的异方差回归数据集在内的各种数据集上证明了其有效性和可扩展性。
-
新的SIKA-GP方法加速深度学习中的高斯过程推理
研究人员开发了SIKA-GP，一种加速贝叶斯深度学习中高斯过程（GP）推理的新颖方法。通过采用具有二进有序模板基的稀疏诱导核近似，SIKA-GP实现了仅对诱导点数量对数依赖的计算复杂度。这种方法能够实现高效的张量化GPU计算，并与包括贝叶斯神经网络在内的大规模模型无缝集成，在不影响预测准确性的前提下显著加快了训练和推理速度。
-
新方法增强神经网络不确定性估计
研究人员开发了一种新方法，通过将基于Dirichlet的框架与Monte Carlo Dropout相结合，来改进神经网络中的不确定性估计。该方法旨在提供更具信息量的不确定性表示，同时保持现有技术的计算效率。该方法被提出作为一种实用的解决方案，用于创建能够感知其预测不确定性的深度学习模型。
-
新框架统一了不确定性感知的可解释人工智能
研究人员引入了一个新的可解释人工智能（XAI）框架，该框架纳入了不确定性感知，超越了确定性归因图。该方法将从贝叶斯神经网络派生的“解释分布”形式化，并提出算子来使用均值和方差等度量来总结该分布。该框架在电能质量扰动分类任务上进行了测试，结果表明，与确定性方法相比，带有均值算子的深度集成提高了定位精度，并揭示了标准归因中不存在的不确定性模式。