Bayesian linear regression
PulseAugur coverage of Bayesian linear regression — every cluster mentioning Bayesian linear regression across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
ReForge框架通过贝叶斯优化精炼合并的AI模型
研究人员开发了ReForge，一个用于精炼合并AI模型的新框架。这种双层优化方法使用带有锚点中心先验的贝叶斯线性回归，无需联合重新训练即可组合多个特定任务的模型。ReForge可以带或不带校准数据运行，其无数据变体利用任务向量Grams。该方法在各种基准测试中表现出卓越的性能，与现有的锚点基线相比，显著提高了视觉和语言任务的准确性。
-
FedPS框架为联邦学习实现隐私保护的数据预处理
研究人员推出FedPS，一个用于联邦数据预处理的新型框架。该系统支持多方协作机器学习模型训练，而无需共享原始数据。FedPS利用数据草图技术高效地汇总本地数据集，保留关键统计信息。该框架支持特征缩放、编码、离散化和缺失值插补的联邦算法，将贝叶斯线性回归等预处理模型扩展到横向和纵向联邦学习场景。
-
新的主动学习框架通过贝叶斯算子推断增强降阶模型
研究人员开发了一个新的主动学习框架，旨在改进参数化动力系统的面向数据的降阶模型（ROM）。该框架使用贝叶斯算子推断（将其构建为贝叶斯线性回归）来创建概率性ROM。通过分析预测不确定性，系统自适应地选择新的训练参数来增强ROM的稳定性和准确性，在偏微分方程的数值实验中优于随机采样。
-
物理感知机器学习改进电动卡车能耗预测
研究人员开发了一种物理感知机器学习模型来预测电动卡车的能耗。通过将物理原理融入模型，他们发现与标准线性回归相比，贝叶斯线性回归提高了能耗预测的可靠性。更复杂的模型，如神经网络和梯度提升回归树，在也融入物理学后，进一步提高了准确性，并优于其标准对应模型。该框架还提供了一种估计预测不确定性的方法。
-
新的贝叶斯深度集成方法增强了预测回归
研究人员开发了一种新的贝叶斯深度集成方法，用于预测回归，该方法增强了可解释性并保持了强大的预测性能。该方法将贝叶斯推理与深度集成相结合，以提供校准的不确定性估计，使其适用于独立预测或集成到更大的学习系统中。主要特点包括低维集成表示、使用线性回归进行可解释权重的一阶贝叶斯聚合，以及神经网络的独立训练以提高鲁棒性和不确定性校准。在标准回归基准上的实证结果显示了具有竞争力的性能和可靠的不确定性估计。
-
相关高斯序列的新经验贝叶斯方法
研究人员开发了一种用于相关高斯序列模型中经验贝叶斯估计的新方法。该方法利用最大复合边际似然（CML）估计量，通过在似然函数中忽略相关性来有效处理依赖观测。CML估计量显示出以 $n_*^{-1/2}$ 的速率收敛，其中 $n_*$ 是有效样本量，表明在一般依赖性下接近最优速率。该方法应用于贝叶斯线性回归和贝叶斯非线性单指标模型，利用了辅助统计量的高维分布。
-
新的蒙特卡洛算法降低了随机梯度方法的方差
研究人员开发了用于随机梯度广义不可逆Langevin蒙特卡洛算法的新方差缩减技术。这些方法旨在提高广义不可逆Langevin动力学估计器的准确性，特别是在步长趋于零的情况下。在贝叶斯回归任务上的数值实验表明，与可逆方案相比，提出的不可逆方案持续降低了均方根误差。
-
新的AI推理方法解决了高维方差和后验坍塌问题
研究人员推出了一种新颖的基于粒子的变分推理方法——熵正则化最优输运下降法（Entropic Transport Descent, ETD），该方法利用熵正则化最优输运来改进对难解分布的近似。与先前可能在高维情况下遭受方差坍塌的方法不同，ETD的全局协调机制能够保留多模态结构，并在各种实验中与SVGD等现有技术相媲美或表现更优。同时，对变分深度高斯过程（Variational Deep Gaussian Processes, VDGPs…