Normalizing Flows
PulseAugur coverage of Normalizing Flows — every cluster mentioning Normalizing Flows across labs, papers, and developer communities, ranked by signal.
10 天有情绪数据
-
新的NFTR方法通过避免模式崩溃改进离线目标条件RL
研究人员推出了一种新颖的离线目标条件强化学习方法NFTR(Normalizing Flows subgoal policies with Triangle-slack Reweighting)。NFTR通过使用条件归一化流(conditional Normalizing Flow)替换标准高斯策略,从而避免模式崩溃,解决了现有分层隐式Q学习(HIQL)的局限性。此外,它还引入了三角松弛分数(triangle slack score)来…
-
新工具Memisis简化了健康数据集的合成数据生成
研究人员开发了Memisis,一种旨在简化表格健康合成数据集的创建和评估的新型工具。该系统集成了各种合成库、大型语言模型和先进的评估指标,以确保隐私、效用和公平性。Memisis提供手动配置和交互式代理模式,允许用户用自然语言指定数据生成目标。该工具使用精神分裂症数据集进行了演示,评估了包括GAN、VAE、扩散模型和归一化流在内的六种不同的合成器。
-
AI模型增强了脉冲星计时数据中双黑洞的检测
研究人员开发了一种新颖的Transformer模型,该模型采用了物理信息的位置编码,以提高在脉冲星计时数据中检测偏心双黑洞的能力。该方法将分析性引力波相位演化直接嵌入模型中,使其能够从原始计时残差中学习更有意义的表示。通过在基于仿真的推理框架内利用生成模型,该方法与不考虑物理因素的基线相比,实现了更高的准确性、更清晰的后验分布和更快的推理速度,为未来的脉冲星计时阵列分析提供了一种可扩展的替代方案。
-
新框架通过稳定的全局加权增强了归一化流
研究人员开发了 AMF-VI-sEMA,一种用于归一化流的新型两阶段框架,旨在改进近似推理。该方法使用基于单纯形指数移动平均 (sEMA) 更新的稳定全局加权机制。该框架在第一阶段独立训练多个专家架构,然后在第二阶段学习全局混合权重,从而避免了组件崩溃和计算开销。
-
人工智能驱动的轨道确定使用归一化流进行近地月空间导航
研究人员通过将生成模型应用于仅角度测量,开发了一种在近地月空间环境中进行轨道确定的新方法。该方法将问题表述为条件密度估计,使用在扰动观测上训练的归一化流。然后,训练好的模型可以从新的测量中生成统计上一致且符合物理信息的状态假设,这些假设随后通过经典算法进行优化以提高精度。
-
引入用于参数相关密度变形的可因子化归一化流 · 跟踪到2个来源
研究人员引入了可因子化归一化流(FNFs),这是一种新颖的方法,旨在模拟概率密度如何随连续参数变化。这种方法解决了为每种参数配置学习单独流的难以处理的问题,尤其是在高能物理等领域。FNFs通过将参考配置的固定流与可学习的、在参数上是多项式和可因子化的变换相结合来实现这一点,从而允许孤立地学习每个参数的影响。该方法提供了可解释性,与参数数量呈线性关系,并保持了可处理的似然性,为科学推理中的密度变形提供了一个通用工具。
-
流匹配研究推动生成模型和逆问题发展 · 跟踪10个来源
近期研究探索了用于生成模型和逆问题的流匹配技术的进展。论文介绍了用于高效多模态基于仿真的后验估计的FUSE,用于具有不确定性量化的稳定逆设计的对角流匹配(Diag-CFM),以及用于约束生成的拉格朗日对偶流。其他工作侧重于用于改进期望估计的得分正则化联合采样以及扩散和流匹配采样器的渐近保持分析。此外,流匹配正应用于稀疏视图CT重建和地球物理反演,展示了其在各种科学和工程领域的通用性。
-
正态流被证明是强化学习中连续控制的强大模型
研究人员已经证明,正态流(NF)是强化学习(RL)中连续控制任务的强大模型。与普遍认为NF缺乏足够表现力的观点相反,本文提出了一种单一的NF架构,可以无缝集成到RL算法中,用于策略、Q函数和占用测度等各种功能。这种集成简化了RL算法,并在模仿学习、离线RL、目标条件RL和无监督RL中取得了优越的性能。
-
新型自回归玻尔兹曼生成器利用LLM架构进行分子采样
研究人员推出了一种名为自回归玻尔兹曼生成器(ArBG)的新框架,旨在改进热力学平衡下分子系统的采样。与依赖归一化流的先前方法不同,ArBG采用了自回归建模方法,借鉴了大型语言模型中有效的架构。这一新颖的框架规避了基于流的模型限制,提供了更高的可扩展性和性能,尤其是在较大的肽系统中。该论文还介绍了Robin,一个拥有1.32亿参数、使用ArBG训练的模型,该模型显著降低了小型肽系统的能量误差,性能优于先前的最先进模型。
-
DeCoFlow 通过新颖的 NF 分解解决持续异常检测问题
研究人员开发了 DeCoFlow,一种用于工业环境中持续异常检测的新颖方法。该方法通过将子网络分解为固定的通用基础和特定任务的低秩适配器,解决了归一化流(NFs)中的灾难性遗忘问题。DeCoFlow 在 MVTec-AD 和 VisA 等基准数据集上保持了 NFs 的可逆性和雅可比有效性,并取得了最先进的性能,每个任务的参数开销极小。
-
MIMFlow 集成掩码图像建模与归一化流,实现高级图像生成
研究人员推出 MIMFlow,一个将掩码图像建模 (MIM) 与归一化流 (NF) 集成以增强端到端图像生成的新颖框架。该方法使用 VAE 编码器从掩码图像中提取语义潜在表示,使归一化流能够专注于简化的语义流形,而解码器则处理高频合成。这种解耦解决了 NF 中的容量瓶颈,优先考虑全局连贯性而非像素级细节。MIMFlow-L 在 ImageNet 256x256 上表现强劲,线性探测准确率达到 71.3%,FID 为 2.50,尽管使用…
-
MIMFlow 将掩码图像建模与归一化流集成以实现图像生成
研究人员推出了一种新颖的框架 MIMFlow,它集成了掩码图像建模 (MIM) 和归一化流 (NF) 以增强端到端的图像生成。该方法通过使用 VAE 编码器进行语义推理来分离语义表示和像素级细节,从而使归一化流能够专注于简化的语义流形,而解码器则负责合成。这种设计克服了传统 NF 的容量限制,优先考虑全局连贯性而非噪声。在 ImageNet 上的实验表明,使用更少 token 的 MIMFlow-L 相比于同等规模的 NF 基线取得了…
-
新框架解决了潜在信号的解卷积和去噪问题
研究人员开发了一个新的非参数密度解卷积和经验贝叶斯去噪框架,解决了复杂系统中模糊潜在信号的挑战。该方法利用卷积最大均值差异(convMMD)损失,通过将观测数据分布与噪声卷积的模型分布进行匹配来学习潜在生成模型。这种方法与高斯混合模型和归一化流等表达性筛分类兼容,为生成潜在分布模型下的解卷积和去噪提供了实用且理论上可靠的解决方案。
-
深度学习框架加速卫星数据中的CO2检索
研究人员开发了一个新颖的深度学习框架,以更有效、更准确地从NASA的OCO-2(轨道碳观测卫星2号)卫星检索大气二氧化碳(CO2)数据。该新方法利用拉普拉斯近似和归一化流,实现了比当前运行算法快几个数量级的推理速度,同时还提供了更可靠的不确定性量化。该框架在考虑了真实前向模型误差的高保真模拟上进行训练,使其能够处理标准反演技术常常忽略的系统误差,并模拟非高斯后验分布。
-
综述详述用于逆向材料设计的AI模型
一篇新的综述论文详述了在逆向材料设计中使用生成模型和多模态学习的进展。文章涵盖了各种生成模型类别,如VAE、归一化流和扩散模型,并强调了如何将物理约束集成到设计工作流中。该论文还探讨了融合不同数据模态如何创建更通用的化学空间表示,并讨论了优化逆向设计的策略,以及常见的失败模式和评估实践。
-
新的FTIP方法增强了贝叶斯函数空间推理
研究人员推出了一种新颖的变分推理方法——流变换隐式过程(FTIP),旨在增强贝叶斯函数空间建模。FTIP通过采用归一化流为函数组合创建更具表现力的变分分布,从而解决了现有方法中的局限性。这使得FTIP能够更好地捕捉复杂的后验结构,例如不对称性和多模态性,而这些结构常常被传统的高斯近似平滑或压缩。
-
新框架为传输MCMC提供严格的收敛证书
两篇新研究论文介绍了用于认证传输MCMC收敛性的框架,传输MCMC是一种使用归一化流来提高马尔可夫链蒙特卡洛采样效率的方法。第一篇论文《通过振荡控制的归一化流实现传输MCMC的非空洞认证》为这些采样器建立了严格的谱隙界限,克服了先前在高维空间中的局限性。第二篇论文《通过对偶谱隙证书实现自认证传输MCMC》提出了一个名为CerT-MCMC的框架,该框架具有两个互补的证书,可提供自动的、与维度相关的收敛保证,区分真正的失败和证明的局限性。
-
SRC-Flow 使用紧凑表示进行图像生成
研究人员开发了SRC-Flow,一种使用归一化流进行图像生成的新颖方法。该方法通过首先将特征压缩到低维语义空间来解决视觉数据中高维表示的挑战。该方法在ImageNet数据集上的归一化流技术中取得了最先进的成果,同时保持了精确的似然计算和确定性采样。
-
SRC-Flow 方法通过紧凑语义表示增强图像生成
研究人员开发了 SRC-Flow,一种旨在提高图像生成质量的新型归一化流方法。该方法通过引入语义表示压缩器 (SRC) 来解决归一化流在处理高维表示时遇到的挑战。该压缩器将特征压缩到低维语义空间,减轻了建模负担,并实现了更有效的生成。SRC-Flow 在 ImageNet 数据集上的归一化流方法中取得了最先进的成果,能够进行精确似然计算和确定性采样。
-
新框架使用归一化流学习复杂多尺度动力学
研究人员开发了一个新的数据驱动框架,用于从复杂多尺度系统的有限观测数据中学习有效的随机动力学。该方法对耦合随机微分方程进行建模,并使用归一化流来表示未观测到的快速动力学的不变分布。该框架通过优化带惩罚的似然目标进行端到端训练,并包含用于不确定性量化的贝叶斯变分推断过程。