linear programming
PulseAugur coverage of linear programming — every cluster mentioning linear programming across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
Research in LP is increasingly leveraging functional analysis and advanced mathematical concepts.
The paper on VC dimension bounds in L_p spaces utilizes functional analysis techniques and a no-dimensional Radon theorem. This indicates a trend towards applying sophisticated mathematical frameworks to extend LP's theoretical underpinnings and applicability to more abstract spaces.
LP-based methods will be integrated into verifiable AI for NP-hard optimization.
The introduction of CASP, a method using verifiable certificates to improve NP-hard optimization, highlights a move towards more robust AI solutions. Given LP's role in optimization, it's plausible that LP formulations will be incorporated into such verifiable systems to enhance their reliability and sample efficiency.
Linear programming applications will expand into advanced data clustering techniques.
Recent evidence shows linear programming being used to approximate hierarchical clustering into trees and bounded-diameter graphs. This suggests a growing trend of applying LP to complex data partitioning problems beyond traditional optimization, potentially leading to new clustering algorithms.
-
将AI对齐重构为使用福利经济学的社会选择问题
一篇新论文提出将AI对齐问题重新表述为社会选择问题,超越了标准的人类反馈强化学习。研究表明,通过关注算法的福利后果,可以使用线性优化以及福利经济学和机制设计中的工具来处理对齐问题。该框架允许将对齐协议转化为福利结果,反之亦然,并通过人类对肾脏分配和LLM响应等各种场景的偏好进行了实证演示。
-
新的$(\text{DNN})^2$方法增强了神经网络验证
研究人员开发了一种名为$(\text{DNN})^2$的新方法,用于改进深度神经网络的验证,特别是那些使用ReLU(整流线性单元)的网络。现有方法由于松弛中的差距,通常提供过于保守的安全保证。虽然完全正程序(CPP)公式可以弥合这些差距,但计算上不可行。提出的$(\text{DNN})^2$方法提供了一种更易于处理的松弛,它将关键约束保留为半定规划(SDP),解决了之前限制其使用的可扩展性问题。这种新方法利用了一种新颖的特征值最大化程…
-
新论文探讨鞅中的信息流,统一了集中不等式
一篇新发表在arXiv上的论文详细介绍了在非负鞅的路径空间中理解信息流的进展。该研究引入了精确的变分恒等式,即使在任意随机时间也适用,统一并扩展了如Ville和PAC-Bayesian学习等经典集中不等式。该工作还量化了与任意随机时间预测相关的“窥探惩罚”,并探讨了测试鞅的几何混合如何使多模型安全测试受益。
-
输入凸神经网络在优化方面优于前馈神经网络
研究人员引入了输入凸神经网络(ICNNs)作为传统前馈神经网络(FNNs)在数学优化问题中的更优替代方案。ICNNs 因其凸结构提供了计算优势,能够实现更紧密的线性规划松弛,并可能消除积分间隙。虽然具有 ReLU 激活函数的前馈神经网络可以重新表述为混合整数规划问题,但 ICNNs 通过上图表示允许进行基于 LP 的重新表述。在人道主义粮食援助、油井选址和葡萄酒调配等领域的案例研究表明,ICNNs 在匹配 FNN 准确性的同时,提高了…
-
新的混合整数规划方法提供更快的变化点检测
开发了一种新的离线多变化点检测混合整数规划(MIP)方法,将该问题构建为全局最优分段线性拟合任务。该方法引入了具有线性规划松弛的强化MIP公式,该松弛对分段分配变量提供积分投影,从而提供比现有技术更严格的松弛。该框架还扩展到具有共享变化点的多维分段线性模型,计算实验表明与当前最先进的方法相比,求解时间显著减少。
-
新的GNN-GA算法优化物理互联网供应链
研究人员开发了一种新颖的图神经网络引导遗传算法(GNN-GA),用于优化物理互联网框架内的复杂供应链网络。该方法结合了离散分配决策和连续流量问题,解决了成本不确定性问题。GNN组件有助于初始化遗传算法的种群,并根据预测不确定性调整变异策略,在测试中表现优于标准的遗传算法和模拟退火。
-
质量感知注意力机制提升了AI模型的信息保留能力
研究人员开发了一种名为质量感知注意力机制(Mass-Aware Attention, MAA)的新型注意力机制,旨在提高AI模型内部表征的信息量。标准的注意力机制在累积证据时会丢失信息,尤其是在模式重复的情况下。MAA通过将L1归一化推广到Lp族来解决这个问题,允许表征以不同的速率缩放,并保留有关输入数量的信息。该方法在各种时间图模型和数据集上显示出改进,增强了图统计和优先依附的恢复能力。
-
新的CASP方法使用可验证证书来改进NP难优化问题
一篇新研究论文介绍了一种名为CASP(Certificate-Augmented Solution Pruning,证书增强型解剪枝)的方法,该方法旨在利用机器学习预测来提高解决NP难优化问题的效率。与依赖未经检查的预测的传统方法不同,CASP包含一个可靠的多项式时间验证器,无论预测质量如何,都能确保正确性。此验证过程限制了诱导损失,使得证书参数的学习所需样本量远少于未经验证的方法。实验表明,当使用训练好的预测器时,CASP不会损失最…
-
新算法近似聚类成树和有界直径图
研究人员开发了新的层次聚类问题的近似算法,特别是当目标是将数据划分为树或具有有界直径的图时。所提出的框架利用线性规划,并适用于相关的平面聚类问题 $p_{\mathcal{F}}$-Partitioning 可以用整数线性规划和舍入程序来制定的图类。研究还表明,在小集扩展假设下,将这些聚类问题近似到任何常数因子内是不太可能的。
-
L_p空间中部分概念类的新VC维度界限
研究人员已将VC维度的概念扩展到部分函数,特别关注实数Banach空间中的几何部分概念类(PCCs)。他们为L_p空间中扩展球的VC维度建立了无维度的上界,这些上界独立于环境维度和底层测度空间。这些发现建立在欧几里得空间先前工作的基础上,并包括匹配的下界以及L_p空间中新的稠密邻域引理,利用了泛函分析技术和一个无维度的Radon定理。
-
新的ARDL模型将公平性融入零售定价策略
研究人员开发了一种新的零售动态定价方法,该方法包含公平性约束,以平衡盈利能力和消费者福利。该方法使用对数-对数自回归分布滞后(ARDL)模型来预测零售销售,并通过优化定价决策来最大化销售,同时遵守与消费者价格指数(CPI)挂钩的价格上限。该框架旨在通过确保价格不超过以CPI为锚定的上限来防止消费者被剥削,并使用模拟退火来寻找能够降低消费者成本但仍能实现销售目标的保守价格。研究还对预测准确性与ARIMA和SARIMA等传统模型进行了基准…
-
新方法从数百篇 MILP 论文中构建铁路重新调度知识体系
研究人员开发了 LP Mining with LP2Graph,一种从数百篇关于混合整数线性规划(MILP)在铁路重新调度中应用的文章中提取和构建知识的新方法。该方法将每个公式表示为一种类型化的变量-方程图,创建了一个可复现的数据集和一个模型类型的客观分类。该系统已通过使用各种求解器重新生成和重新求解公式得到验证,展示了其在铁路重新调度中自动化模型开发的潜力。
-
新的AI框架通过多智能体精炼解决优化问题 · 跟踪4个来源
研究人员推出OptiAgent,一个多智能体框架,旨在将运筹学问题的自然语言描述转化为求解器就绪的数学公式和可执行代码。该系统采用专门的智能体进行结构提取和迭代自我纠正,并设有一个新颖的多循环验证架构来处理各种故障模式。另外,一个名为MMAO-Dyn的新变体已被开发出来,它通过将内部状态映射到非平稳环境来扩展代谢多智能体优化器(MMAO)以处理动态优化问题。MMAO-Dyn在动态连续优化任务中的性能优于几种基准方法。
-
新的LiFT框架使用线性规划来控制Transformer过拟合
研究人员推出了一种新颖的Transformer模型微调框架LiFT,该框架利用线性规划来控制过拟合。该方法将微调表述为一个双层优化问题,联合更新模型参数和正则化超参数。通过求解线性规划,LiFT识别出一种面向验证的下降方向以进行集中更新,从而减少了广泛重新训练的需求。在WikiText-2上对GPT-2 Small进行的实验表明,LiFT能够有效地调整Transformer块和正则化参数,尤其是在易于过拟合的情况下,提高了测试困惑度。
-
音频深度伪造模型解释被发现存在脆弱性
研究人员已经证明,音频深度伪造检测模型的解释是可以被操纵的。通过引入不易察觉的扰动,攻击者可以在不改变音频片段是否为深度伪造的最终预测的情况下,改变模型的归因热图。这种漏洞在各种最先进的架构上进行了测试,突显了当前音频分析可解释性方法的潜在弱点。
-
Lyapunov 框架增强了弱耦合 MDP 中的学习能力
研究人员开发了一个新颖的基于 Lyapunov 的框架,用于分析弱耦合马尔可夫决策过程 (WCMDP) 和无休止赌徒 (RB) 学习的样本复杂度。与朴素的约简方法相比,该方法提供了更有效的学习近最优策略的方法,实现了多项式样本和计算复杂度。该框架建立了具有改进最优性差距的有限样本 PAC 保证,并引入了对线性规划松弛的细粒度扰动分析作为一项关键技术贡献。
-
新基准套件评估运筹学中AI的自纠错能力
研究人员开发了ORLoopBench,这是一个旨在评估和改进运筹学(OR)中AI模型自纠错和行为理性能力的新基准套件。该套件包括OR-Debug-Bench,其中包含超过5000个用于修复不可行线性规划(LP)和混合整数规划(MILP)模型的实例,以及用于评估决策理性能力的OR-Bias-Bench。使用求解器内循环方法训练一个8B参数模型,显著提高了其在LP修复任务上的性能,超越了当前前沿API。
-
新的线性规划方法提高了流程一致性检查速度
研究人员通过将其重新表述为完全单模线性规划(LP)开发了一种新的流程一致性检查方法。这种LP方法显著加快了具有偏差的长流程跟踪速度,补充了现有的基于A*的启发式搜索,后者在较短、符合度高的跟踪上表现更好。对超过210万个实例的广泛评估表明,结合这两种方法可以实现平均38.6%的运行时节省和高选择准确率。
-
Modal 通过新的 GPU 技术将 AI 推理冷启动速度提高 40 倍
Modal 开发了一种新方法,可显著缩短 AI 模型推理的冷启动时间。通过采用 LP、FUSE、C/R 和 CUDA-checkpoint 等技术,他们实现了 40 倍的推理速度提升。这项进展旨在使无服务器 GPU 使用更高效、响应更迅速。
-
研究人员开发新的神经网络训练方法以提高MILP可解性
研究人员开发了用于神经网络代理模型的新训练正则化器,可直接提高其在混合整数线性规划(MILP)中的可解性。这些正则化器会惩罚诸如big-M常数和不稳定神经元等因素,并明确解决LP松弛差距。实验表明,这些方法在保持精度的同时,可以将MILP求解时间缩短多达四个数量级。