Wasserstein distributionally robust optimization
PulseAugur coverage of Wasserstein distributionally robust optimization — every cluster mentioning Wasserstein distributionally robust optimization across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究强调了AI鲁棒性评估中损失函数失配问题
研究人员在Wasserstein分布鲁棒优化（WDRO）中发现了代理损失函数与零一损失之间的失配。这种失配可能导致具有完美鲁棒准确率的假设比具有接近零鲁棒准确率的假设具有更高的WDRO风险，尤其是在使用交叉熵等常用损失函数时。为解决此问题，本文提出了Wasserstein分布攻击（WDA），一种在Wasserstein约束下优化经验质量分配以直接评估鲁棒准确率的新方法。在CIFAR-10、CIFAR-100和ImageNet上的实验表…
-
新研究探索先进的分布鲁棒优化技术
两篇新研究论文探索了机器学习中分布鲁棒优化（DRO）的先进技术。第一篇论文介绍了诊断传输 DRO（DT-DRO），它使用校准数据来适应模糊集几何，提高决策质量并减少保守性，尤其是在模型错误指定的情况下。第二篇论文提出了 DRO-Augment，一个将 Wasserstein DRO 与 Mixup 数据增强相结合的框架，以解决深度神经网络中鲁棒性与校准之间的权衡问题，并在图像分类任务上展示了改进的性能。
-
保形预测与DRO统一用于不确定性量化
研究人员开发了一个统一的概率框架，将保形预测（CP）和分布鲁棒优化（DRO）联系起来用于不确定性量化。这种新视角将这两种方法都视为从有限校准数据中推导出数据依赖型分位数估计器的方式。虽然CP调整分位数水平，DRO移动分位数数值，但它们的构建方式不同，导致行为各异，尤其是在分数分布的尾部。
-
New Bounds for Transformer Training via Optimal Control and Robust Optimization
研究人员为 Transformer 训练开发了新的有限样本泛化界限，将该过程构建为一个马尔可夫控制问题。通过分析量化模型并使用集中不等式，他们为度量空间上的经验定律推导出了显式界限。这项工作还将 Transformer 泛化与 Wasserstein 分布鲁棒优化联系起来。