Bayes-filtered transformer

新研究探讨贝叶斯滤波的Transformer模型及其不确定性分解

两篇新的arXiv论文探讨了贝叶斯滤波的Transformer模型（BFTs），这是一种旨在近似贝叶斯后验预测分布的Transformer模型。第一篇论文介绍了预测性蒙特卡洛（PMC）作为一种解释BFTs内化的先验和后验信念的工具，并将其应用于风格化的任务族。第二篇论文利用贝叶斯预测推理和预测中心极限定理来分离偶然不确定性和认知不确定性，解决了如何分解BFTs（特别是像TabPFN这样的模型）中的不确定性问题。