Blocked Gibbs Sampling

新核提升受限玻尔兹曼机学习效率

研究人员开发了一种新颖的非局部转移核，旨在提高学习受限玻尔兹曼机（RBM）的效率和稳定性。该新核解决了传统阻塞吉布斯采样（BGS）的局限性，BGS由于其局部性，尤其是在RBM具有高能垒时，可能存在采样质量差的问题。所提出的方法受深度退火（DT）启发，允许在单次转移中进行非局部移动，从而保持RBM序列不变。实验表明，与BGS和DT相比，该方法以更少的转移实现了更优的采样质量，从而实现了更稳定的学习并减轻了训练失败。