Entropic Optimal Transport
PulseAugur coverage of Entropic Optimal Transport — every cluster mentioning Entropic Optimal Transport across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
为黎曼流形开发了新的Light Entropic Optimal Transport方法
研究人员开发了ManifoldLightOT，一种直接在黎曼流形上学习熵最优传输（EOT）耦合的新方法。该方法利用了特定几何的Gibbs核和适用于球面、环面、SO(3)和SE(3)等各种流形的兼容势参数化。参数使用蒙特卡洛估计进行优化，并且与现有的流形OT技术相比，该方法表现出优越的性能，同时实现了直接采样。
-
熵最优传输应用于大规模模拟和主动学习
两篇新研究论文探讨了熵最优传输（EOT）和Sinkhorn散度在不同AI场景中的应用。第一篇论文介绍了FlashSinkhorn 2 (FS2)，一个基于GPU的大规模离散EOT问题求解器，能够处理来自模拟的海量数据集。第二篇论文利用Sinkhorn散度进行低预算主动学习，证明了其在为模型训练选择关键数据点方面的有效性，特别是在医学成像等领域。
-
新研究论文详述用于强化学习和GW问题的先进优化算法
两篇新研究论文探讨了机器学习优化算法的进展。第一篇论文介绍了一种用于强化学习的“快速正则化策略镜像下降”方法，在无需重置轨迹的情况下提供了改进的收敛保证和样本复杂度。第二篇论文提出了用于熵化Gromov-Wasserstein问题的“平均镜像下降”和对偶梯度方法，证明了比以往更广泛成本函数的收敛性，并在某些场景下优于经典方法。
-
新的FlexibleFusion方法使目标检测能够适应缺失的传感器数据
研究人员开发了FlexibleFusion，一种新颖的红外-可见光目标检测（IVOD）方法，能够适应缺失的传感器数据。该方法利用模态感知专家协作（MAEC）机制，根据传感器可用性动态地在跨模态融合和自融合之间切换。此外，还引入了残差自步长熵最优传输（RSPEOT）技术，通过优先处理可靠匹配并逐步优化更具挑战性的匹配来对齐不同模态的特征分布。
-
SinkSLOT 方法为大型数据集提供更快的最优传输
研究人员推出了一种新颖的熵最优传输 (EOT) 方法 SinkSLOT，该方法显著提高了大型数据集的计算效率。与标准 Sinkhorn-Knopp 算法每次迭代需要 O(N^2) 操作不同，SinkSLOT 将其减少到每次迭代 L 次切片需要 O(LN) 操作。通过使用预期的切片提升传输计划来稀疏化 Gibbs 核，从而在现有 EOT 方法上实现显著的加速。所提出的散度也无需去偏，并已证明在梯度流实验中具有适用性。
-
新的EOT框架通过折扣采样密度来改进数据集对齐
研究人员引入了一个名为密度重加权熵最优传输（EOT）的新框架，以改进数据集对齐。该方法解决了标准EOT中的一个局限性，即数据集中不同的采样密度可能导致几何对应不准确。所提出的框架允许折扣采样密度对几何对应准确性的影响，从而使对齐更多地由潜在的几何邻近性驱动。研究人员通过模拟证明，该方法能够产生更真实的几何对应，尤其是在数据集采样密度存在显著差异的情况下。
-
新研究通过最优传输和潜在去噪探索多模态对齐
两篇新研究论文探讨了改进大型模型中多模态对齐的方法。第一篇论文引入了联合核熵格罗莫夫-沃塞尔斯坦最优传输（JK-EGW），通过最小化二次最优传输目标来对齐不同模态的数据，在数据稀疏的情况下显示出改进的检索性能。第二篇论文为 LLaVA 等大型多模态模型（LMMs）提出了一种潜在去噪框架，通过在训练期间添加去噪目标来增强内部视觉表示和对分布变化的鲁棒性。
-
新的镜像 Langevin 扩散提供收敛保证
研究人员引入了镜像 Langevin 扩散（MLD），一种在 Hessian 流形上内在运行 Langevin 扩散的方法。该研究探讨了 MLD 在何种条件下可以实现指数收敛到平衡态，特别是对于非强对数凹的概率密度。研究结果依赖于 Lyapunov 函数方法来建立 Poincaré 或 log-Sobolev 不等式的充分条件，进而保证指数收敛。此外，该论文提出了一种使用两步 Gibbs 采样器对 MLD 的马尔可夫链近似，这是 Si…
-
FlashSinkhorn求解器加速GPU上的最优输运
研究人员开发了FlashSinkhorn，一种新的GPU加速熵最优输运（EOT）求解器，可显著减少内存输入输出操作。通过重写稳定对数域Sinkhorn更新以模仿Transformer注意力中的归一化过程，FlashSinkhorn实现了融合内核，将数据流经片上SRAM。这种方法在A100 GPU上执行点云OT等任务时，与现有方法相比，前向传播速度提高了32倍，端到端速度提高了161倍。
-
新的 Sinkhorn 治疗效果度量分析反事实分布
研究人员开发了一种新的统计度量方法，称为 Sinkhorn 治疗效果，它使用熵最优传输来量化反事实分布之间的差异。该度量超越了诸如平均治疗效果等传统指标，通过评估整个分布的差异性。所提出的方法允许对分布治疗效果进行无偏估计和渐近有效的检验，实验表明在模拟数据和图像数据上具有实际优势。
-
新的熵最优传输损失改进了基于模型的聚类方法
研究人员开发了一种使用熵最优传输的基于模型的聚类新损失函数。这种新方法旨在克服传统最大似然估计的局限性，后者可能存在非凸性和局部最优问题。所提出的方法通过Sinkhorn-EM算法进行优化，展示了更稳定的优化景观和与EM算法相当的收敛速度。