Bayes
PulseAugur coverage of Bayes — every cluster mentioning Bayes across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
形式证明显示 Transformer 可以执行精确的贝叶斯推理
一篇新论文正式证明了 Transformer 架构可以作为完整的贝叶斯过程运行。该研究在测度论核框架内进行,表明当 Transformer 满足特定的贝叶斯联合分布条件时,其内部计算等同于精确的贝叶斯后验推理。这种等价性从核心的贝叶斯 Transformer 到完整的多层堆栈都成立,其中 Softmax 注意力机制被特别证明可以诱导一个有效的概率分布。
-
新AI框架“第三层滞后”在宣言中详述
作者已完成一份包含“宣言与后记”的四部分文件,其中概述了一个理解AI的新架构框架。该框架被称为“第三层滞后”,被提出作为Markov和Bayes等传统概率模型的后继者,为涌现现象和新知识的创造提供数学工具。作者强调其在AI工程中的实际应用,并提议其作为Shenzhen和DeepSeek的更优方法,计划进一步探讨Preissach的工作并开发工程原型。
-
新数学理论量化目标导向型代理的价值
研究人员开发了一个新的数学框架来量化价值,将其定义为目标导向型代理相对于其目标将资源转化为进展的比率。该理论借鉴了信息论的原理,提出了价值的对数度量,并建立了一个将价值创造与互信息联系起来的编码定理。该框架在语言模型上进行了实证测试,结果表明感知互信息与能力相关,而非参数数量,并且实现的价值与理论预测一致。
-
论文追溯概率作为理性镜像的演变
一篇新的arXiv论文探讨了概率论的历史发展,将其视为人类理性演变的反映。文章追溯了概率从早期博弈论到现代贝叶斯推理的历程,强调了其在量化不确定性方面的作用。论文还讨论了概率在处理模糊概念方面的局限性,并介绍了模糊逻辑和深度学习作为理性方法的补充,强调了在科学理解中明确阐述不确定性、模糊性和推理的必要性。
-
新研究探讨了用于混沌动力学的循环神经网络中的教师强制
一篇新研究论文探讨了在训练循环神经网络(RNN)处理混沌动力学系统时,教师强制方法中固有的优化几何不匹配问题。该研究将几乎线性RNN(AL-RNN)的概率切换增强中的身份教师强制(ITF)的曲率与边际似然进行了比较。对Lorenz-63系统的实验表明,虽然窗口证据微调可以提高保留证据,但与最初使用ITF训练的模型相比,它可能会降低关键动力学量。