Entropic Optimal Transport
PulseAugur coverage of Entropic Optimal Transport — every cluster mentioning Entropic Optimal Transport across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新的EOT框架通过折扣采样密度来改进数据集对齐
研究人员引入了一个名为密度重加权熵最优传输（EOT）的新框架，以改进数据集对齐。该方法解决了标准EOT中的一个局限性，即数据集中不同的采样密度可能导致几何对应不准确。所提出的框架允许折扣采样密度对几何对应准确性的影响，从而使对齐更多地由潜在的几何邻近性驱动。研究人员通过模拟证明，该方法能够产生更真实的几何对应，尤其是在数据集采样密度存在显著差异的情况下。
-
新研究通过最优传输和潜在去噪探索多模态对齐
两篇新研究论文探讨了改进大型模型中多模态对齐的方法。第一篇论文引入了联合核熵格罗莫夫-沃塞尔斯坦最优传输（JK-EGW），通过最小化二次最优传输目标来对齐不同模态的数据，在数据稀疏的情况下显示出改进的检索性能。第二篇论文为 LLaVA 等大型多模态模型（LMMs）提出了一种潜在去噪框架，通过在训练期间添加去噪目标来增强内部视觉表示和对分布变化的鲁棒性。
-
新的镜像 Langevin 扩散提供收敛保证
研究人员引入了镜像 Langevin 扩散（MLD），一种在 Hessian 流形上内在运行 Langevin 扩散的方法。该研究探讨了 MLD 在何种条件下可以实现指数收敛到平衡态，特别是对于非强对数凹的概率密度。研究结果依赖于 Lyapunov 函数方法来建立 Poincaré 或 log-Sobolev 不等式的充分条件，进而保证指数收敛。此外，该论文提出了一种使用两步 Gibbs 采样器对 MLD 的马尔可夫链近似，这是 Si…
-
FlashSinkhorn求解器加速GPU上的最优输运
研究人员开发了FlashSinkhorn，一种新的GPU加速熵最优输运（EOT）求解器，可显著减少内存输入输出操作。通过重写稳定对数域Sinkhorn更新以模仿Transformer注意力中的归一化过程，FlashSinkhorn实现了融合内核，将数据流经片上SRAM。这种方法在A100 GPU上执行点云OT等任务时，与现有方法相比，前向传播速度提高了32倍，端到端速度提高了161倍。
-
新的 Sinkhorn 治疗效果度量分析反事实分布
研究人员开发了一种新的统计度量方法，称为 Sinkhorn 治疗效果，它使用熵最优传输来量化反事实分布之间的差异。该度量超越了诸如平均治疗效果等传统指标，通过评估整个分布的差异性。所提出的方法允许对分布治疗效果进行无偏估计和渐近有效的检验，实验表明在模拟数据和图像数据上具有实际优势。
-
新的熵最优传输损失改进了基于模型的聚类方法
研究人员开发了一种使用熵最优传输的基于模型的聚类新损失函数。这种新方法旨在克服传统最大似然估计的局限性，后者可能存在非凸性和局部最优问题。所提出的方法通过Sinkhorn-EM算法进行优化，展示了更稳定的优化景观和与EM算法相当的收敛速度。