stochastic differential equation
PulseAugur coverage of stochastic differential equation — every cluster mentioning stochastic differential equation across labs, papers, and developer communities, ranked by signal.
-
LC-GRPO框架通过Langevin校正改进生成模型训练
研究人员推出了一种新颖的基于流的GRPO框架LC-GRPO，该框架结合了Langevin校正，以弥合生成模型中训练和推理之间的差距。该方法解决了在使用随机微分方程（SDE）进行训练和使用常微分方程（ODE）进行推理时出现的差异，这种差异可能导致样本模糊和性能下降。通过在ODE欧拉步之后应用Langevin校正，LC-GRPO在理论上减少了Wasserstein误差，并与标准的SDE离散化相比提高了样本精度。在SD3.5-Medium、…
-
DeltaFlow 推出噪声自适应双向网络，实现高效语言去噪
研究人员开发了 DeltaFlow，一种新颖的噪声自适应双向门控 Delta 网络 (GDN)，旨在提高嵌入式语言流 (ELF) 的效率。与使用昂贵非因果注意力的传统 ELF 不同，DeltaFlow 提供了一种循环替代方案。引入了 DeltaFlow-A 和 DeltaFlow-P 两个变体，其中 DeltaFlow-P 在 OpenWebText 数据集上展示了困惑度降低和显著的吞吐量加速。
-
新的Itô映射使生成模型能够进行单次SDE积分
研究人员引入了Itô映射，这是一种用于任意步随机微分方程（SDE）积分的新颖方法。该方法通过利用中间状态和布朗路径，使生成模型能够单次预测未来状态。Itô映射提供了对后验样本的可微分访问，从而能够改进推理时控制，并在合成和图像生成基准测试中表现出强大的性能。
-
新的PINN框架求解具有各种初始条件的Fokker-Planck方程
研究人员开发了一个新的框架，使用条件归一化流和物理信息神经网络（PINNs）来求解Fokker-Planck方程（FPE）。该方法通过重新构建问题以近似一个转移概率密度函数（PDF），从而有效地近似了各种初始条件的解算子。该方法利用一个相关的线性随机微分方程的PDF作为归一化流的基础分布，提高了准确性，尤其是在早期时间点，并减轻了数值不稳定性。
-
论文分析了SGD在高维线性网络中的动力学行为
一篇新论文详细介绍了随机梯度下降（SGD）在对角线性网络中的高维行为。研究表明，在高维情况下，SGD的动力学行为可以用随机微分方程精确建模。这使得可以推导出一个确定性偏微分方程，该方程跟踪风险和曲率等关键统计数据，最终证明了指数级收敛到零风险。