Bayesian Neural Networks
PulseAugur coverage of Bayesian Neural Networks — every cluster mentioning Bayesian Neural Networks across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
贝叶斯神经网络：似然退火影响分析
研究人员调查了似然退火对变分贝叶斯线性神经网络的影响。他们发现，在宽网络中，高斯均场变分推断会导致“先验主导”，即随着网络宽度的增加，变分预测分布会折叠到先验预测分布。该研究推导了具有各向同性高斯先验的单隐藏层线性网络的极限预测分布在特定退火计划下的情况，揭示了不同尺度下预测期望和方差的相变。研究结果表明，通过适当选择退火参数，可以恢复神经网络高斯过程的后验期望或方差。
-
新的GMVIP方法增强了隐式过程先验的贝叶斯推理
研究人员引入了广义马瑟隆变分隐式过程（GMVIP），这是一个新颖的变分族，专为具有隐式过程先验的后验推理而设计。这些先验通常通过贝叶斯神经网络或随机模拟器等机制定义，通常缺乏可访问的函数空间密度。GMVIP通过构建校正的路径wise方法来构造后验样本，从而解决了这个问题，并保留了原始隐式过程的结构和变异性。在回归、分类和时间序列预测任务上的实验表明，GMVIP与现有方法相比具有竞争力，特别是在利用模拟器定义的和检索条件化的经验轨迹先验时。
-
新框架为联邦贝叶斯学习模型认证安全性
研究人员开发了一个新框架，用于认证联邦学习场景下贝叶斯神经网络的安全性。该方法称为后验事件传输（Posterior Event Transport），解决了局部安全证书不能直接保证聚合模型安全性的挑战。该框架将局部后验事件通过聚合过程进行传播，为部署模型的安全概率提供了一个下界。在MNIST和Fashion-MNIST数据集上的实验表明，这种传输的证书范围可以从22.51%到46.89%，而直接的全局证书达到了72.05%到91.39…
-
新的集成采样方法有望提高机器学习研究的效率和准确性
两篇新研究论文提出了新颖的集成采样技术，以提高机器学习中模型探索的效率和准确性。第一篇论文《具有更小集成的小型线性集成采样》介绍了一种通过监控Gram矩阵的变化来减少集成刷新频率的算法，以更小的集成规模实现了最先进的遗憾界限。第二篇论文《淬灭集成采样》提出了一种将硬能量约束推广到排斥势的方法，从而能够在相变过程中实现更鲁棒的采样，并改进了贝叶斯神经网络和晶格场论中的应用。
-
新的HyperMC框架优化SGMCMC超参数
研究人员开发了HyperMC，一种用于优化随机梯度马尔可夫链蒙特卡洛（SGMCMC）方法中超参数的新颖框架。该方法利用多保真度调优策略，结合Hyperband风格的资源分配和核Stein差异（KSD）评估，以有效地探索超参数空间。在逻辑回归和贝叶斯神经网络等各种模型上的实验表明，与现有方法相比，HyperMC增强了后验近似和预测校准。
-
新概念LPA解释了图神经网络中不确定性的降低
研究人员引入了潜在后验对齐（LPA）这一新概念，解释了具有贝叶斯输出层的图神经网络（GNNs）中预测不确定性如何降低。这种现象发生在潜在表示向低方差后验方向移动时，即使没有直接的后验方差收缩。为了利用这一点，研究团队开发了对齐引导学习（AGL），一种促进LPA的训练方法，可在保持准确性和提高模型置信度校准的同时，有效降低预测不确定性。
-
新的AI方法在不确定性下优化3D打印质量 · 跟踪3个来源
研究人员开发了优化熔丝制造（FFF）过程的新方法，重点是在不确定性下提高零件质量。一种方法使用贝叶斯神经网络来预测几何精度和丝材结合质量，结合模型和输入不确定性来优化喷嘴温度和速度等参数。另一篇论文提出了一个计算框架，将传热分析与烧结模型相结合，以最大化丝材结合质量，使用Sobol指数进行敏感性分析，并使用高斯过程来管理模型差异。第三项研究探讨了物理信息和混合机器学习策略，将物理知识整合到深度神经网络中，即使在实验数据有限的情况下也能…
-
新研究探索深度学习中的不确定性量化在各种应用中的潜力
三篇新研究论文探讨了深度学习模型中不确定性量化的先进技术。第一篇论文介绍了直觉模糊深度随机神经网络（IF-dRVFL和IF-edRVFL），以提高分类任务中对噪声数据和异常值的鲁棒性。第二篇论文对基因组学应用中的不同不确定性量化方法进行了实证分析，包括深度集成、贝叶斯神经网络和蒙特卡洛-dropout，发现贝叶斯神经网络对于不平衡和分布外数据更可靠。第三篇论文提出了一种两步MV-DeepONet用于概率算子学习，增强了不确定性传播中跨…
-
AI通过神经符号和BNN方法推进光子组件设计
研究人员开发了使用AI设计光子组件的新方法。一种方法，“光子贝叶斯神经网络的约束协同设计”，通过解决光子实现中的硬件约束来专注于改进贝叶斯神经网络的不确定性估计。另一种方法，“PixCell”，使用神经符号系统将光子组件的视觉表示转换为可执行的参数化程序，实现了高精度，并能够训练Qwen3.6 35B-A3B等大型语言模型，而无需监督演示。
-
新调查详细介绍了面向可信深度学习的不确定性量化
一篇新发布的arXiv调查论文详细介绍了深度学习中不确定性量化的方法，重点关注与安全关键应用中可信AI相关的技术。该论文将方法分为贝叶斯神经网络、蒙特卡洛Dropout、深度集成和单通道方法。它还回顾了用于总结不确定性的度量，并讨论了在大型语言模型中的应用，强调了开放的研究方向。
-
t分布在贝叶斯神经网络中优于高斯分布
研究人员探讨了不同似然分布对贝叶斯神经网络（BNNs）性能的影响。虽然高斯分布因计算方便常用于模拟BNNs中的不确定性，但本研究调查了替代分布是否能产生更好的结果。研究结果表明，无论数据或网络架构如何，使用t分布作为似然函数都能持续提高预测性能，优于高斯假设。此外，t分布在保持易于实现的同时，还有可能缩短训练时间。
-
Neural network generalization near interpolation analyzed via statistical mechanics · 2 sources tracked
两篇新的arXiv论文探讨了具有广泛宽度的浅层神经网络在插值阈值附近的泛化能力。该研究使用统计力学分析了这些网络，揭示了在泛化误差独立于权重分布的通用阶段和泛化误差依赖于权重分布的专业化阶段之间存在一个相变。研究结果表明，虽然在插值附近存在高度预测性的解，但由于统计-计算差距，实际算法可能难以找到它们。
-
New method disentangles model and human uncertainty in facial age estimation
研究人员开发了一种方法，用于区分面部年龄估计任务中的模型不确定性和人类数据不确定性。通过在具有不同数据量的 APPA-REAL 数据集上训练贝叶斯神经网络，他们观察到认知不确定性（模型不确定性）随着数据的增加而减少，而随机不确定性（固有的数据噪声）保持稳定。这项工作展示了量化面部年龄估计中不同不确定性来源的能力。
-
新的SCROLL方法通过Bethe自由能优化贝叶斯神经网络
研究人员开发了一种训练贝叶斯神经网络的新方法，称为SCROLL（Shared-Cavity fRee-rOuting Last-Layer）。该方法优化Bethe自由能而非典型的证据下界（ELBO），旨在实现网络组件之间的局部一致性。SCROLL专为单次训练而设计，可以处理各种似然函数，在多个基准数据集上显示出预测准确性和校准方面的性能提升。
-
新的贝叶斯深度学习方法增强了可解释性和模型压缩能力
研究人员引入了一种名为输入跳跃潜在二值贝叶斯神经网络（ISLaB）的新方法，以增强深度学习模型的可解释性并降低其复杂性。该方法允许协变量跳过层或被排除，从而简化网络结构并更清晰地了解输入如何影响预测。ISLaB 显著降低了网络密度，实现了超过 99% 的压缩率，同时保持了高准确性和预测不确定性，并在 MNIST 数据库等基准测试中展示了最先进的压缩效果。
-
贝叶斯神经网络：无限宽度匹配多项式宽度可学性
研究人员发表了一篇论文，详细介绍了均值场贝叶斯神经网络的宽度鲁棒可学性定理。该研究表明，对于布尔立方体目标，无限宽度下的可学性等同于多项式宽度下的可学性，前提是约简熵有界多项式。这一发现表明，无限宽度极限通过有效子采样神经元同时保留学习到的函数，可以准确地描述学习过程，而不会引入虚假的泛化能力。
-
新的BiLoc框架使用1比特激光雷达实现高效自主定位
研究人员开发了BiLoc，一个新颖的二值神经网络框架，用于6-DoF激光雷达定位，旨在为自主系统提供计算效率。该方法通过信息瓶颈原理重新解释了BNN训练，以保留姿态估计的关键表示，同时最大限度地减少信息损失。引入了一个辅助目标来适应性地调节信息保留，补偿二值化和梯度不匹配的固有局限性。在大规模激光雷达数据集上的实验表明，BiLoc在基于BNN的激光雷达定位方面取得了最先进的性能。
-
贝叶斯神经网络利用对称性提升深度学习性能
研究人员探讨了对称性在深度学习中的作用，特别是在贝叶斯神经网络（BNNs）中。他们研究了在网络架构上施加对称性约束或通过数据增强学习对称性是否能产生更好的结果。该研究侧重于BNNs中的变分推断，并推导了实现精确等变性的条件以及等变性误差的界限。引入了三种新颖的对称化技术，其中“轨道扩展”在等变性和总体结果方面均表现出优越性能。
-
新的 B-PINN 框架增强了材料退化预测的不确定性量化
研究人员开发了一个新的贝叶斯物理信息神经网络（B-PINN）框架，旨在改进预测与健康管理（PHM）中的不确定性量化。这种新颖的方法联合建模了认知不确定性和偶然不确定性，为估算绝缘材料老化等应用提供了更全面的预测后验。该框架在变压器绝缘老化方面进行了评估，并通过热模型和现场测量进行了验证，与现有的确定性 PINN 和贝叶斯 PINN 变体相比，展示了更高的准确性和校准度。
-
深度学习模型在机械故障诊断中的不确定性评估
一篇新发表在arXiv上的研究论文探讨了各种深度学习模型在诊断旋转机械故障方面的有效性，特别关注它们处理不确定性的能力。该研究比较了基于dropout的方法、贝叶斯神经网络和深度集成模型等，评估了它们在检测由未见故障（认知不确定性）和噪声（随机不确定性）引起的分布外数据方面的性能。研究结果表明，深度集成模型在检测认知不确定性方面通常优于其他模型，同时在抵抗随机不确定性方面也表现出更强的鲁棒性，因此因其准确性和效率而成为首选。