kriging
PulseAugur coverage of kriging — every cluster mentioning kriging across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
研究表明 Transformer 可实现高斯核回归
一项新的研究论文表明，标准的 softmax 注意力 Transformer 可以在其前向传播过程中近似高斯核岭回归 (KRR) 预测器。该研究构建了一个单头 Transformer，能够实现预条件 Richardson 迭代，这是一种求解核系统的方法。这项工作揭示了 Transformer 内部的功能分解，其中注意力层处理跨 token 交互，MLP 层管理 intra-token 算术。在 GPT-2 风格的 Transforme…
-
新的GP-Refiner框架加速扩散变换器
研究人员开发了一个名为GP-Refiner的新框架，用于加速扩散变换器（Diffusion Transformers），这是生成式AI中的一个主流范式。这种即插即用（plug-and-play）的方法利用高斯过程回归（Gaussian Process Regression）动态纠正预测式特征缓存（prediction-based feature caching）中出现的偏差，而特征缓存是加速这些模型的一种常用技术。通过将完整的计算步骤…
-
研究人员建议不要在机器学习中使用高斯核
最近的一篇论文认为，在回归和分类等机器学习任务中不应广泛使用高斯核。作者认为，这种核（也称为平方指数核或径向基函数核）会导致条件方差不切实际地小，从而导致预测不确定性过度自信。此外，这种平滑性会导致数值病态，在实际应用中需要引入金块项等变通方法。该论文广泛建议由于这些问题而避免使用解析核。
-
新的Bryson-Frazier平滑器增强了高斯过程回归的稳定性
研究人员为时间高斯过程回归开发了一种改进的Bryson-Frazier（MBF）平滑器。该方法通过避免有问题的协方差矩阵求逆，提供了比Rauch-Tung-Striebel（RTS）平滑器更数值稳定的替代方案。MBF平滑器还降低了计算成本和内存需求，同时实现了高效的核超参数学习。
-
新的生成GPR模型可鲁棒地处理异常值
研究人员开发了一种新的生成高斯过程回归（GPR）模型，旨在克服传统GPR方法中异常值造成的显著失真。这种新颖的方法对观测特定的污染进行建模，使其能够在学习和预测过程中自适应地减少异常值的影响。在合成和真实世界数据集上的实验表明，所提出的方法在性能上可与现有的鲁棒GPR技术相媲美，在某些情况下甚至优于它们，同时保持相似的立方计算复杂度。
-
发布新的 SpotOptim Python 包用于黑盒函数优化
SpotOptim Python 包已发布，为优化昂贵的黑盒函数提供了一个框架。它采用基于 Kriging 的方法和预期改进（Expected Improvement），支持各种变量类型、带噪声的评估和多目标优化。该包包含诸如基于成功率的重启机制以防止停滞等功能，并与 scikit-learn 兼容的代理模型集成。SpotOptim 还提供 TensorBoard 日志记录以进行实时监控，并与其他几个流行的优化工具进行了比较。
-
新的因子图方法提高了高斯过程回归的可扩展性
研究人员开发了一种新颖的因子图方法来解决多输出高斯过程回归中的可扩展性挑战。这种新方法将回归问题表示为因子图，通过高斯消息传递实现高效的后验计算。该公式在数据样本数量和缺失观测值方面具有良好的可扩展性，在速度和准确性方面优于传统的核矩阵和稀疏变分方法，尤其是在时间序列预测任务中。
-
新框架正式化了AI表征中的结构编码
研究人员引入了一个名为Legendre动力学的新框架，该框架正式化了学习系统中的内部表征如何编码潜在的物理或统计结构。该方法使用Legendre对偶来确保演化的对偶参数保持其对偶关系，这是线性高斯过程回归和Ornstein-Uhlenbeck动力学中的一个特性。该工作还表征了保持Legendre图的辛同构，并构建了通过其循环更新固有地保持这些Legendre图的Hamiltonian辛Reservoirs。
-
新的自适应Nyström方法增强了高斯过程回归的可扩展性
研究人员开发了一种自适应Nyström方法来提高高斯过程回归（GPR）的可扩展性。这种新方法贪婪地选择标志点以最小化近似误差，在准确性和稳定性方面优于随机选择。该方法在性能上可与精确GPR相媲美，同时样本量呈线性扩展，使其适用于大规模计算机实验。
-
新的贝叶斯在线学习框架聚合专家以实现自适应预测
研究人员开发了一个新的贝叶斯在线学习框架，通过将更新规则视为专家来解决固定推断选择的挑战。这种聚合方法在事后与最佳专家竞争，成本由性能评估决定。该框架已应用于在线一致性推断，产生了一个具有随机覆盖的贝叶斯对应物，并应用于高斯过程回归，显示出对未知Hölder平滑度的适应性。
-
高斯过程回归增强了连续动作的蒙特卡洛树搜索
研究人员开发了一种新的蒙特卡洛树搜索（MCTS）方法，该方法利用高斯过程回归来提高在具有连续动作空间的中的性能。该方法旨在更好地聚合来自不同线程的统计数据，为尚未经过广泛试验的动作提供价值估计。在六个域上的评估表明，这种高斯过程聚合策略仅以推理时间的微小增加就优于现有方法。
-
新的高斯过程方法解决了具有不确定性量化的复杂波问题
研究人员开发了一种新颖的方法来解决由亥姆霍兹方程控制的复杂波传播问题，特别是在波数平方为复数的耗散介质中。这种新方法将算子感知高斯过程（GP）回归扩展到处理复值场，方法是将问题转换为等效的实值系统。该方法在基准问题上展示了与有限差分和神经网络基线相比具有竞争力的性能，并提供了量化其预测不确定性的优势。当应用于体外脑磁共振弹性成像时，该技术成功地重建了与测量值高度相关的剪切旋度场。
-
机器学习提高风电预测精度
研究人员开发了先进的机器学习技术来提高风电预测的准确性。对保形分位数回归、自然梯度提升和条件扩散模型与基于树的方法结合的比较分析表明，与确定性基线相比，平均绝对误差显著降低。条件扩散模型取得了最佳性能，与概率性基线相比，平均绝对误差提高了 5%，连续秩概率得分提高了 12%。此外，使用天气集合而非单一提供商可将点预测精度平均提高 17%。
-
机器学习模型在液压离合器控制方面优于基于物理的仿真
本文介绍了一种用于建模液压离合器控制压力的、数据驱动的方法，该方法解决了滞后和锁存跃迁等非线性行为。通过结合当前导数信息并使用非线性支持向量分类器（SVC）来分离操作模式，研究人员开发了一种高斯过程回归模型。与基于物理的Amesim模型相比，这种机器学习方法在重现测量压力响应和滞后方面表现出更高的准确性，表明其在硬件开发和控制器校准中的实用性。
-
新的SHARC框架增强了金融领域机器学习风险模型的可解释性
一篇新的研究论文介绍了一种名为SHARC的可解释性框架，该框架专为用于监管资本估算的机器学习风险模型而设计。SHARC通过将SHapley Additive exPlanations (SHAP)应用于混合GPR-HS架构来解决“黑箱”问题，使其输出可由监管机构审计。该框架成功地将非线性风险输出与底层情景输入联系起来，并揭示了在压力下，平均回报成分对资本水平有显著影响，这对金融风险管理具有启示意义。
-
新的数据驱动模型预测湍流压损
研究人员开发了两种新的数据驱动模型，一种使用克里金法，另一种使用神经网络（NN），以预测多孔板湍流中的压损。这些模型在实验数据上进行了训练，并且一致优于现有的经验公式。NN和克里金模型与实验测量结果吻合良好，并且在RANS方程中作为源项实现时，适用于实际的计算流体动力学应用。
-
新的GAIA框架通过全局数据选择增强LLM指令调优
研究人员开发了GAIA（Global Adaptive Instruction tuning via Gaussian processes），一个用于为大型语言模型（LLM）指令调优选择高质量数据的新框架。与受限于局部批次优化的现有方法不同，GAIA使用高斯过程回归来模拟整个语义空间中的效用。这种全局估计过程，结合自适应策略融合机制，动态地优先处理有价值的样本。该框架还包含动态遗憾保证，即使在训练过程中数据质量分数发生变化，也能确保鲁棒性。
-
新的克里金法和神经网络模型预测压损
研究人员开发了两种新的数据驱动模型，一种使用克里金法，另一种使用人工神经网络（NN），以预测多孔板湍流中的压损。这些模型在现有实验数据上进行了训练，与传统的经验公式相比，表现出了优越的性能。研究还表明，这些数据驱动的方法可以有效地集成到计算流体动力学模拟中，从而为实际应用产生准确的预测。
-
提出用于非线性系统辨识的新框架
研究人员提出了一种新颖的半参数框架——正交差异核（ODKs），用于非线性系统辨识。该方法有效地将差异函数与基于物理的组件分离开来，即使在处理不完整的物理知识时也能实现更具可解释性的模型。ODK框架利用正交高斯过程回归来实现稀疏参数选择与差异学习之间的平衡。
-
新的F2NARX模型为动力学系统提供了显著的效率和准确性提升
研究人员推出了一种新的函数-函数非线性自回归模型（F2NARX），它提高了复杂动力学系统的预测效率和准确性。这一新颖的框架将主成分分析与高斯过程回归相结合，通过自回归方式的无迹变换实现概率预测。F2NARX模型在速度和精度上都显著优于现有的NARX模型，并且其主动学习能力能够以最少的数据量准确估计首次通过失效概率。