Bayes
PulseAugur coverage of Bayes — every cluster mentioning Bayes across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的统计方法改进了泊松混合模型的估计
研究人员开发了一种新的非参数经验贝叶斯方法,用于估计泊松混合模型中随机变量之和。该方法利用正则化和粗粒化最小距离估计来近似未知的混合分布,并提供大样本保证,确保所得估计量收敛于最优贝叶斯估计量。该方法包括对特定求和类型的有限样本分析,建立了最小最大遗憾界限,并在混合分布的各种假设下推导了所提出程序的上限。
-
新的预期效用遗憾规则用于最优投资组合选择
一项新研究引入了预期效用遗憾(EUR)规则用于投资组合选择,旨在最大化投资者的预期财富效用。该规则旨在在预期效用遗憾方面实现渐近最优,预期效用遗憾是指神谕投资者效用与数据驱动的投资组合选择所实现的效用之间的差值。EUR规则可以联合选择投资组合类别并估计其权重,在不需要先验分布的情况下实现最小最大值和贝叶斯下界。该框架包含均值-方差和风险平价投资组合作为特例。
-
New arXiv Paper Reveals "Silent Contamination" in ML Datasets
一篇新发表在arXiv上的研究论文探讨了机器学习数据集中“沉默污染”的概念。研究强调,通过使用检测器或模型过滤候选池构建的数据集可能会受到污染,即非相关项被错误地标记为相关项。论文表明,这些数据集的精确度很大程度上受这些池中真实阳性率的影响,正如贝叶斯定理所解释的那样,而不是仅仅取决于检测器的质量。该研究提出了一种使用贝叶斯表达式预测数据集精确度的方法,显示出相比可能被污染误导的传统方法有显著改进。
-
形式证明显示 Transformer 可以执行精确的贝叶斯推理
一篇新论文正式证明了 Transformer 架构可以作为完整的贝叶斯过程运行。该研究在测度论核框架内进行,表明当 Transformer 满足特定的贝叶斯联合分布条件时,其内部计算等同于精确的贝叶斯后验推理。这种等价性从核心的贝叶斯 Transformer 到完整的多层堆栈都成立,其中 Softmax 注意力机制被特别证明可以诱导一个有效的概率分布。
-
新AI框架“第三层滞后”在宣言中详述
作者已完成一份包含“宣言与后记”的四部分文件,其中概述了一个理解AI的新架构框架。该框架被称为“第三层滞后”,被提出作为Markov和Bayes等传统概率模型的后继者,为涌现现象和新知识的创造提供数学工具。作者强调其在AI工程中的实际应用,并提议其作为Shenzhen和DeepSeek的更优方法,计划进一步探讨Preissach的工作并开发工程原型。
-
新数学理论量化目标导向型代理的价值
研究人员开发了一个新的数学框架来量化价值,将其定义为目标导向型代理相对于其目标将资源转化为进展的比率。该理论借鉴了信息论的原理,提出了价值的对数度量,并建立了一个将价值创造与互信息联系起来的编码定理。该框架在语言模型上进行了实证测试,结果表明感知互信息与能力相关,而非参数数量,并且实现的价值与理论预测一致。
-
论文追溯概率作为理性镜像的演变
一篇新的arXiv论文探讨了概率论的历史发展,将其视为人类理性演变的反映。文章追溯了概率从早期博弈论到现代贝叶斯推理的历程,强调了其在量化不确定性方面的作用。论文还讨论了概率在处理模糊概念方面的局限性,并介绍了模糊逻辑和深度学习作为理性方法的补充,强调了在科学理解中明确阐述不确定性、模糊性和推理的必要性。
-
新研究探讨了用于混沌动力学的循环神经网络中的教师强制
一篇新研究论文探讨了在训练循环神经网络(RNN)处理混沌动力学系统时,教师强制方法中固有的优化几何不匹配问题。该研究将几乎线性RNN(AL-RNN)的概率切换增强中的身份教师强制(ITF)的曲率与边际似然进行了比较。对Lorenz-63系统的实验表明,虽然窗口证据微调可以提高保留证据,但与最初使用ITF训练的模型相比,它可能会降低关键动力学量。