Restricted Boltzmann Machines
PulseAugur coverage of Restricted Boltzmann Machines — every cluster mentioning Restricted Boltzmann Machines across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新方法改进 RBM 对分布外数据的拒绝能力
研究人员开发了一种新方法，以提高受限玻尔兹曼机 (RBM) 在处理分布外 (OOD) 输入时的性能。通过训练 RBM 使用分配给拒绝标签的辅助随机二值图像，模型的交互矩阵会发生有效的秩崩溃。此过程将谱权重集中到更少的占优特征方向上，从而使 RBM 能够拒绝结构化的分布外图像数据集，同时保持在 MNIST 等数据集上的准确性。
-
统计力学用于解释机器学习和记忆
本论文使用统计力学的工具，探讨机器学习和人工神经网络的理论基础。旨在增进对这些系统如何学习和记忆数据的理解，重点关注隐式低维学习结构和对抗性攻击的理论基础。研究调查了密集联想记忆和受限玻尔兹曼机，以分析不同的学习和记忆模式。
-
新研究探讨了受限玻尔兹曼机的激活函数
研究人员探讨了受限玻尔兹曼机（RBM）中权值和隐藏单元非线性的统计特性。该研究重点关注四种激活函数：线性、阶跃、ReLU和指数，以了解它们对二元可见单元上诱导分布的影响。研究结果表明，具有高斯权值的RBM通常难以学习具有强高阶交互作用的分布，但采用指数激活函数的模型除外。
-
显示了受限玻尔兹曼机采样的新界限
研究人员已经证明了应用于正加权受限玻尔兹曼机的交替扫描采样器的新混合时间界限。该分析利用了马尔可夫链理论和铁磁双自旋系统的Glauber动力学技术，建立了延伸至临界阈值的界限。这项工作有助于更深入地理解这些特定机器学习模型的采样效率。
-
研究人员探索非平衡动力学以增强无监督生成模型
研究人员已证明，通过诱导潜状态周期，非平衡动力学可以增强无监督生成模型。他们的模型使用具有不同转移矩阵的可见变量和隐藏变量，与受限玻尔兹曼机等平衡方法相比，性能更优。通过打破详细平衡并引入不可逆性，该模型可以避免常见陷阱，更准确地重现数据分布。