Bayesian optimization
PulseAugur coverage of Bayesian optimization — every cluster mentioning Bayesian optimization across labs, papers, and developer communities, ranked by signal.
13 天有情绪数据
-
贝叶斯优化框架增强了材料科学中遗传算法超参数的调优
研究人员开发了一个多保真度框架,用于优化晶格材料设计的遗传算法 (GA) 超参数。该框架在贝叶斯优化 (BO) 方法中结合了高保真度快速傅里叶变换 (FFT) 均质化、中保真度 3D 卷积神经网络和低保真度高斯过程。研究发现,logNEI 采集函数最有效,而惩罚性 BO 目标在保持性能的同时减少了所需晶格的数量。这种优化方法在 25 代 GA 运行中实现了与完整 75 代运行相当的弹性模量值,将计算成本降低了 24%,并消除了对晶格突变的需求。
-
新方法通过反事实策略估计增强了安全贝叶斯优化
研究人员开发了一种新颖的安全贝叶斯优化方法,专为干预措施不得将结果降低到特定阈值以下决策场景而设计。该方法解决了在遵守安全约束的同时优化目标所面临的挑战,特别是在基线策略的结果是反事实且未被观察到的情况下。通过采用一致性预测来估计这些反事实结果的不确定性区间,该系统可确保约束违反率保持在用户指定的范围内,并适应协变量偏移和正式的安全证明。
-
研究发现贝叶斯优化需要最优初始点
一篇新的arXiv论文探讨了贝叶斯优化(BO)所需的最佳初始点数量。研究表明,寻找全局最优值的总成本与初始批次大小($n_0$)之间存在U形关系,这意味着过少或过多的初始点都会导致资源浪费。这种现象归因于BO在向内聚焦之前倾向于探索超立方体的边界。该研究提出了实际建议,包括在可用时使用多步前瞻BO,在无法调整$n_0$时使用Thompson采样,以及在可以调整时使用更大的$n_0$。
-
新的SMART框架使用机器学习加速数字电路可靠性分析
研究人员开发了SMART,一个结合了机器学习和蒙特卡洛模拟的新框架,用于加速数字电路中晶体管老化和工艺变化的分析。该方法使用随机森林回归和贝叶斯优化来预测门延迟分布,显著减少了分析时间并保持了高精度。SMART旨在为设计更可靠的数字系统提供可扩展的解决方案,以解决深纳米CMOS技术中传统仿真方法的局限性。
-
新的贝叶斯优化框架利用多数据源提高效率
研究人员开发了一个新的贝叶斯优化(BO)框架,该框架能有效处理未知约束,特别是在可行区域较小的情况下。这种多源方法整合了辅助数据,如代理模型或简化模拟,以改善设计空间的早期探索。通过扩展最大值熵搜索方法,该框架能够捕捉源间的相关性,并平衡评估成本与信息增益,在合成和基于物理的基准测试中表现优于现有方法,尤其是在优化初期阶段。
-
新的暖启动策略加速高斯过程推理
研究人员开发了新的暖启动策略来加速高斯过程(GP)推理,这是主动学习和贝叶斯优化等任务的关键组成部分。这些方法利用来自较小线性系统的解,在用新数据更新 GP 后验时显著加快收敛速度。理论分析和经验结果表明,这些暖启动技术可以实现高达 19 倍的速度提升,并产生更准确的后验估计,从而提高优化性能。
-
新的 BEACON 策略增强了昂贵发现任务的新颖性搜索
研究人员推出了一种受贝叶斯优化启发的、用于新颖性搜索的新策略 BEACON。该方法专为评估成本高昂的场景设计,例如材料科学和分子设计,旨在发现各种系统行为,而非单一的最佳结果。BEACON 使用多输出高斯过程对输入到结果的关系进行建模,并通过评估可能的后验结果与先前观察到的数据的偏差程度来选择新的输入,同时考虑预测不确定性和噪声。
-
新的B3O框架增强了工程领域可扩展的贝叶斯优化
研究人员推出了一种新的框架B3O(Boltzmann Batch Bayesian Optimization),旨在提高贝叶斯优化在大规模并行模拟工作流中的效率。B3O将批量生成重新定义为一个采样问题,直接从由采集函数定义的玻尔兹曼分布中采样。该方法旨在克服现有批量贝叶斯优化方法的计算成本和近似问题。实证表明,B3O在合成基准测试和复杂应用任务(包括多目标电极设计和赛车配置)上均表现出卓越的性能。
-
新的随机克里金信徒方法增强了并行贝叶斯优化
研究人员开发了一种名为随机克里金信徒(KB)的新型并行贝叶斯优化方法。该方法旨在通过选择多样化的输入集进行并行评估,来提高昂贵的黑盒函数优化的效率。随机KB方法具有计算复杂度低、实现简单、跨不同贝叶斯优化技术通用性强等优点,同时还提供了理论上的遗憾保证。
-
贝叶斯上下文老虎机优化仓库分拣器,性能优于其他机器学习框架 · arXiv论文
一篇新的研究论文比较了三种机器学习框架在电子商务仓库中实时分拣器分流控制的优化效果。研究发现,与启发式基线相比,贝叶斯上下文老虎机(BCB)实现了2.03%的奖励提升,性能优于带有梯度下降优化的线性回归和带有贝叶斯优化的XGBoost。BCB展现出优越的特性,包括时间最优策略、连续在线学习和更短的推理延迟,表明其在大型仓库环境中进行业务部署的潜力。
-
大型语言模型与贝叶斯优化结合,实现高效的 MIP 求解器配置
研究人员开发了 GRIMIP,一个结合了大型语言模型 (LLM) 和贝叶斯优化 (BO) 的新颖框架,可高效配置混合整数规划 (MIP) 求解器。这种混合方法允许 LLM 在 BO 循环中充当概率代理,降低搜索和评估成本。GRIMIP 在七个基准的挑战性实例上实现了超过 40% 的对偶积分(Primal-Dual Integral)的显著改进,优于 SMAC 和其他 LLM 辅助 BO 技术等现有方法。
-
新的SciVerseGym环境标准化了AI驱动的晶体发现
研究人员开发了SciVerseGym,一个与Gymnasium兼容的新环境,将晶体发现构建为马尔可夫决策过程。该平台允许智能体与原子结构进行交互,应用编辑,并从评估器那里获得反馈。SciVerseGym支持多种操作,包括元素替换和晶格扰动,并且可以配置不同的化学空间和观察类型。它旨在为材料科学中的强化学习、贝叶斯优化和其他AI驱动的方法提供一个标准化的、可扩展的测试平台。
-
新贝叶斯优化框架通过专家输入增强生物工艺开发
研究人员开发了一个增强的“人在回路”贝叶斯优化框架,称为帕累托前沿引导采样(PFGS)。该框架允许领域专家通过将高斯过程代理派生出的量重新表述为多目标优化问题来交互式地选择最优候选者。该系统现在通过考虑满足规格限制的概率来纳入约束优化,并通过估计输入扰动下的性能下降来纳入鲁棒优化。扩展的PFGS框架在中国仓鼠卵巢(CHO)细胞培养模拟器上进行了演示,成功识别了高性能、可行且对扰动具有弹性的操作条件。
-
新的TRUST框架提供目标置信度反事实解释
研究人员推出TRUST,一个用于在高风险决策系统中生成目标置信度反事实解释的新颖框架。与关注最小输入更改的现有方法不同,TRUST允许用户指定期望的预测置信度水平。这种方法通过直接搜索满足置信度目标的最小修改,而不是在生成后评估置信度,从而实现更强大、更可解释的算法追索形式。该框架利用概率Tsetlin机器(PTMs)和贝叶斯优化来连接预测置信度与决策规则稳定性,为算法决策的可靠性提供可操作的见解。
-
机器学习优化铣削过程以实现表面粗糙度
研究人员开发了一个机器学习框架来优化铣削过程以实现表面粗糙度。该系统使用深度神经网络和随机森林集成,在合成数据上进行训练,以预测铣削参数。该框架与贝叶斯优化相结合,以识别最佳配置,预测平均相对误差小于5%。
-
新的贝叶斯优化核可扩展至高维
研究人员开发了一个在高维排列空间中进行贝叶斯优化(BO)的新框架,解决了当前方法在可扩展性方面存在的局限性。所提出的方法利用源自排序算法的核函数,引入了一种基于归并排序的新型“归并核”。该核提供了一种紧凑的表示,其复杂度为 \Theta(n\log n),在维度增加时,在优化性能和计算效率方面均优于传统的Mallows核。研究结果表明,该方法可以解决大规模特征排序和组合式神经架构搜索等复杂问题。
-
llama-launcher v1.3 增加贝叶斯优化用于模型调优
llama-launcher 的开发者(一个用于创建 llama-server 命令的 GUI)发布了 1.3 版本。此次更新引入了一项新功能,该功能利用贝叶斯优化(特别是通过 optuna 框架的树状结构 Parzen 估计)来自动调整模型参数。使用 Gemma 12B MTP 模型进行的初步测试表明,在无需手动干预的情况下,速度最多可提高 15%。
-
基于贝叶斯优化的框架可在属性范围内发现多样化设计
研究人员开发了一个新的贝叶斯优化框架,旨在发现特定属性范围内多样化的设计。这种面向范围的方法直接评估候选设计满足目标规范的概率,从而能够并行追求多个不同的设计目标。与现有技术相比,该方法已证明其能够找到更广泛、更多样化的有效设计集,并应用于材料科学和聚合物合成。
-
贝叶斯优化结合物理洞察力提升化学反应器效率
研究人员开发了一种新的方法,结合了贝叶斯优化、复合模型和部分物理知识来优化多产品化学反应器。该方法利用高斯过程模型预测产品浓度和温度等关键输出,并根据这些预测和市场价格分析计算利润。该系统包含稳态能量平衡以确保物理一致性,并利用预测不确定性进行高效探索和约束执行,在模拟经济性能和约束遵守方面优于现有方法。
-
高斯过程因核几何而遭受边界偏差
一篇新论文将边界方差膨胀确定为高斯过程中采集偏差的原因。这种现象,即后验方差在有界域边界附近被膨胀,可能导致贝叶斯优化中的过度探索。研究人员将这种偏差追溯到一种几何机制,在这种机制中,核的相关邻域在域边界处被截断,导致观测失真,而与目标函数无关。他们提出了一种选择性剖面诊断方法,用于量化不同采集函数和几何形状下的这种偏差。