PulseAugur
中
实时 18:05:37
实体 Bayesian Neural Networks

Bayesian Neural Networks

PulseAugur coverage of Bayesian Neural Networks — every cluster mentioning Bayesian Neural Networks across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
10
90 天内 39
发布 · 30天
0
90 天内 0
论文 · 30天
10
90 天内 39
层级分布 · 90 天
主题
关系
情绪 · 30 天

5 天有情绪数据

最近 · 第 1/2 页 · 共 40 条
  1. TOOL · CL_368352 ·

    新的深度集成学习框架应对分类挑战

    本文介绍了一种用于多类别分类任务的深度集成学习新框架。它通过提出使用紧凑型集成(如贝叶斯神经网络和具有蒙特卡洛 Dropout 的卷积神经网络)来解决训练效率和存储方面的挑战。这些方法生成概率预测,然后用于定义代表性分布,优化统计距离。该分布有助于找到各种效用的贝叶斯最优预测 (BOP),包括为鲁棒的、集值的 BOP 设计的一系列集效用。

  2. TOOL · CL_369166 ·

    新的CF-Prop方法可在无采样情况下实现精确的贝叶斯层不确定性

    研究人员开发了CF-Prop,一种用于贝叶斯神经网络中不确定性传播的新颖方法。该技术利用特征函数精确确定贝叶斯ReLU层的输出分布,即使在非高斯情况下,也无需采样。这使得一种高效的变分推断算法CF-VI成为可能,该算法在CIFAR-100等数据集上表现出优越的校准能力,并能准确捕捉重尾保险索赔数据上的尾部不确定性。

  3. TOOL · CL_336416 ·

    光子AI使用光斑实现感知不确定性的贝叶斯网络

    研究人员开发了一种新颖的光子处理器,它利用时间散斑来表示用于感知不确定性的人工智能的概率权重。这种方法将均值和方差直接编码到宽带光的波动中,从而绕开了传统贝叶斯神经网络的计算需求。该系统实现了超快的概率卷积,能够在混合贝叶斯神经网络中同时进行分类和分布外检测,其能力通过在对血细胞图像进行分类的同时识别不熟悉的细胞类型得到了证明。

  4. RESEARCH · CL_324106 ·

    人工智能无人机塑造乌克兰战争;新论文分析BNNs

    一篇新的arXiv论文探讨了贝叶斯神经网络(BNNs)在统计决策理论中的理论基础,重点关注它们在二次损失和Kullback--Leibler损失下的最优性。另外,人工智能驱动的无人机的使用正显著影响乌克兰的冲突,俄罗斯和乌克兰都在使用这些先进技术,乌克兰总统泽连斯基对人工智能做出战场决策表示担忧。

  5. TOOL · CL_321548 ·

    新方法实现具有精确零权重采样的稀疏贝叶斯神经网络

    研究人员开发了一种使用粘性分段确定性马尔可夫过程(PDMPs)创建稀疏贝叶斯神经网络(BNNs)的新颖方法。该方法通过采用 spike-and-slab 先验,在贝叶斯框架内直接整合剪枝,从而管理与剪枝和参数估计相关的各种不确定性。所提出的基于 PDMP 的采样技术允许对 BNN 进行渐近精确的后验采样,其中“粘性”特性使得在采样过程中可以将权重精确设置为零。该方法已证明稀疏 BNN 与其密集对应物相比,可以提供对输入噪声的更好鲁棒性。

  6. TOOL · CL_312833 ·

    新的贝叶斯神经网络增强深度强化学习的探索能力

    研究人员开发了一类新颖的贝叶斯神经网络(BNNs),它们将狄利克雷过程(DP)先验直接置于数据生成分布上,而不是置于网络参数上。该方法旨在解决标准BNNs在捕捉认知不确定性方面的计算挑战和有效性问题,尤其是在深度强化学习(RL)中。新方法催生了DP-DQN,一种使用DP-BNNs进行高效Thompson采样的RL算法,并维护价值函数的后验分布,从而能够使用单个神经网络增强探索能力。

  7. TOOL · CL_308091 ·

    新方法通过单次前向传播加速贝叶斯神经网络

    研究人员开发了一种新方法,通过使用单次概率前向传播(PFP)和代码生成来加速贝叶斯神经网络(BNNs)。这种方法显著降低了传统BNNs的计算成本,而传统BNNs通常需要多次前向传播来进行不确定性估计。PFP方法假设权重和激活服从高斯分布,允许进行解析不确定性传播,并实现了显著的加速,对于小批量数据可达4200倍,同时保持了准确性并改善了域外检测能力。这项技术对于在资源受限的系统(如嵌入式ARM CPU)上部署BNNs尤其有前景。

  8. TOOL · CL_289289 ·

    贝叶斯神经网络实现具有统计保证的自适应推理

    研究人员开发了一种使用置信序列的新颖方法,以动态确定贝叶斯神经网络预测所需的蒙特卡洛样本数量。该方法通过在达到所需精度的决策后停止采样来确保统计保证,这与传统的固定样本方法不同。实验表明,这种自适应策略可以有效地分配计算资源,为模糊的输入分配更多样本,并降低整体延迟。

  9. TOOL · CL_287037 ·

    贝叶斯神经网络:似然退火影响分析

    研究人员调查了似然退火对变分贝叶斯线性神经网络的影响。他们发现,在宽网络中,高斯均场变分推断会导致“先验主导”,即随着网络宽度的增加,变分预测分布会折叠到先验预测分布。该研究推导了具有各向同性高斯先验的单隐藏层线性网络的极限预测分布在特定退火计划下的情况,揭示了不同尺度下预测期望和方差的相变。研究结果表明,通过适当选择退火参数,可以恢复神经网络高斯过程的后验期望或方差。

  10. TOOL · CL_284648 ·

    新的GMVIP方法增强了隐式过程先验的贝叶斯推理

    研究人员引入了广义马瑟隆变分隐式过程(GMVIP),这是一个新颖的变分族,专为具有隐式过程先验的后验推理而设计。这些先验通常通过贝叶斯神经网络或随机模拟器等机制定义,通常缺乏可访问的函数空间密度。GMVIP通过构建校正的路径wise方法来构造后验样本,从而解决了这个问题,并保留了原始隐式过程的结构和变异性。在回归、分类和时间序列预测任务上的实验表明,GMVIP与现有方法相比具有竞争力,特别是在利用模拟器定义的和检索条件化的经验轨迹先验时。

  11. TOOL · CL_257079 ·

    新框架为联邦贝叶斯学习模型认证安全性

    研究人员开发了一个新框架,用于认证联邦学习场景下贝叶斯神经网络的安全性。该方法称为后验事件传输(Posterior Event Transport),解决了局部安全证书不能直接保证聚合模型安全性的挑战。该框架将局部后验事件通过聚合过程进行传播,为部署模型的安全概率提供了一个下界。在MNIST和Fashion-MNIST数据集上的实验表明,这种传输的证书范围可以从22.51%到46.89%,而直接的全局证书达到了72.05%到91.39…

  12. RESEARCH · CL_254647 ·

    新的集成采样方法有望提高机器学习研究的效率和准确性

    两篇新研究论文提出了新颖的集成采样技术,以提高机器学习中模型探索的效率和准确性。第一篇论文《具有更小集成的小型线性集成采样》介绍了一种通过监控Gram矩阵的变化来减少集成刷新频率的算法,以更小的集成规模实现了最先进的遗憾界限。第二篇论文《淬灭集成采样》提出了一种将硬能量约束推广到排斥势的方法,从而能够在相变过程中实现更鲁棒的采样,并改进了贝叶斯神经网络和晶格场论中的应用。

  13. TOOL · CL_233214 ·

    新的HyperMC框架优化SGMCMC超参数

    研究人员开发了HyperMC,一种用于优化随机梯度马尔可夫链蒙特卡洛(SGMCMC)方法中超参数的新颖框架。该方法利用多保真度调优策略,结合Hyperband风格的资源分配和核Stein差异(KSD)评估,以有效地探索超参数空间。在逻辑回归和贝叶斯神经网络等各种模型上的实验表明,与现有方法相比,HyperMC增强了后验近似和预测校准。

  14. TOOL · CL_216088 ·

    新概念LPA解释了图神经网络中不确定性的降低

    研究人员引入了潜在后验对齐(LPA)这一新概念,解释了具有贝叶斯输出层的图神经网络(GNNs)中预测不确定性如何降低。这种现象发生在潜在表示向低方差后验方向移动时,即使没有直接的后验方差收缩。为了利用这一点,研究团队开发了对齐引导学习(AGL),一种促进LPA的训练方法,可在保持准确性和提高模型置信度校准的同时,有效降低预测不确定性。

  15. RESEARCH · CL_208562 ·

    新的AI方法在不确定性下优化3D打印质量 · 跟踪3个来源

    研究人员开发了优化熔丝制造(FFF)过程的新方法,重点是在不确定性下提高零件质量。一种方法使用贝叶斯神经网络来预测几何精度和丝材结合质量,结合模型和输入不确定性来优化喷嘴温度和速度等参数。另一篇论文提出了一个计算框架,将传热分析与烧结模型相结合,以最大化丝材结合质量,使用Sobol指数进行敏感性分析,并使用高斯过程来管理模型差异。第三项研究探讨了物理信息和混合机器学习策略,将物理知识整合到深度神经网络中,即使在实验数据有限的情况下也能…

  16. RESEARCH · CL_193537 ·

    新研究探索深度学习中的不确定性量化在各种应用中的潜力

    三篇新研究论文探讨了深度学习模型中不确定性量化的先进技术。第一篇论文介绍了直觉模糊深度随机神经网络(IF-dRVFL和IF-edRVFL),以提高分类任务中对噪声数据和异常值的鲁棒性。第二篇论文对基因组学应用中的不同不确定性量化方法进行了实证分析,包括深度集成、贝叶斯神经网络和蒙特卡洛-dropout,发现贝叶斯神经网络对于不平衡和分布外数据更可靠。第三篇论文提出了一种两步MV-DeepONet用于概率算子学习,增强了不确定性传播中跨…

  17. RESEARCH · CL_180699 ·

    AI通过神经符号和BNN方法推进光子组件设计

    研究人员开发了使用AI设计光子组件的新方法。一种方法,“光子贝叶斯神经网络的约束协同设计”,通过解决光子实现中的硬件约束来专注于改进贝叶斯神经网络的不确定性估计。另一种方法,“PixCell”,使用神经符号系统将光子组件的视觉表示转换为可执行的参数化程序,实现了高精度,并能够训练Qwen3.6 35B-A3B等大型语言模型,而无需监督演示。

  18. TOOL · CL_173951 ·

    新调查详细介绍了面向可信深度学习的不确定性量化

    一篇新发布的arXiv调查论文详细介绍了深度学习中不确定性量化的方法,重点关注与安全关键应用中可信AI相关的技术。该论文将方法分为贝叶斯神经网络、蒙特卡洛Dropout、深度集成和单通道方法。它还回顾了用于总结不确定性的度量,并讨论了在大型语言模型中的应用,强调了开放的研究方向。

  19. TOOL · CL_169703 ·

    t分布在贝叶斯神经网络中优于高斯分布

    研究人员探讨了不同似然分布对贝叶斯神经网络(BNNs)性能的影响。虽然高斯分布因计算方便常用于模拟BNNs中的不确定性,但本研究调查了替代分布是否能产生更好的结果。研究结果表明,无论数据或网络架构如何,使用t分布作为似然函数都能持续提高预测性能,优于高斯假设。此外,t分布在保持易于实现的同时,还有可能缩短训练时间。

  20. RESEARCH · CL_164997 ·

    Neural network generalization near interpolation analyzed via statistical mechanics · 2 sources tracked

    两篇新的arXiv论文探讨了具有广泛宽度的浅层神经网络在插值阈值附近的泛化能力。该研究使用统计力学分析了这些网络,揭示了在泛化误差独立于权重分布的通用阶段和泛化误差依赖于权重分布的专业化阶段之间存在一个相变。研究结果表明,虽然在插值附近存在高度预测性的解,但由于统计-计算差距,实际算法可能难以找到它们。