Generative Modeling
PulseAugur coverage of Generative Modeling — every cluster mentioning Generative Modeling across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的 arXiv 论文将物理学概念与机器学习应用联系起来
一篇新发表在 arXiv 上的综述论文探讨了控制论、最优传输、概率推理、非平衡热力学与机器学习之间的深刻联系。该论文强调了这些不同领域如何围绕在各种约束条件下优化自由能类泛函这一共同主题。它旨在通过对这些概念进行导览，即使没有物理学专业知识也能理解，并展示了在强化学习、变分推理和生成模型等领域的应用。
-
AI模型生成森林树冠，复现“树冠羞避”现象
研究人员开发了一种新颖的流匹配模型，能够生成整个森林的树冠，并特别解决了树冠避免相互接触的“树冠羞避”现象。这种联合生成方法通过模拟树木之间的注意力，与单独生成每棵树的模型相比，显著降低了误差。该模型的有效性通过模拟资源竞争场景和热带橡树林的实地测量数据进行了验证，证明了其准确复现空隙模式和树冠不对称性的能力。
-
扩散模型研究关注异常值、效率和理论 · 跟踪 10 个来源
近期研究探索了扩散模型的进展，重点是提高其鲁棒性、效率和理论理解。论文解决了逆问题中的异常值数据、用于偏好调整的强化学习扩展以及物种形成和泛化的理论框架开发等挑战。此外，还提出了用于扩散 Transformer 和像素空间扩散模型的高效推理的新方法，旨在提高训练稳定性和生成质量。
-
新的联合流匹配生成模型预测细胞形态变化效应
研究人员开发了一种名为联合流匹配（Joint Flow Matching）的新生成建模技术，用于预测化合物对细胞的影响。与先前将浓度视为离散或忽略它的方法不同，该方法允许连续的剂量条件。联合流匹配方法同时对细胞潜变量和药物浓度进行建模，从而实现剂量条件下的细胞形态变化以及从细胞形态推断浓度。该方法在化合物上表现出具有竞争力的性能，并且可以泛化到未见的剂量。
-
新研究探讨扩散图像模型的缩放定律和训练策略
研究人员发表了多篇探讨扩散模型在图像生成方面进展的论文。其中一项研究“Abra: Scaling Diffusion Image Training”详细介绍了文本到图像扩散模型的缩放定律的系统分析，发现它们比语言模型需要更多的数据才能实现最佳训练，并且对过度训练具有鲁棒性。另一篇论文研究了像素空间扩散模型，提出了一种潜在到像素的策略，该策略可以加速收敛并提高推理速度。此外，关于“TINA+”的研究探讨了未学习扩散模型中的残余视觉知识，…
-
新的DADiff框架使用扩散模型进行跨域强化学习
研究人员推出了一种新颖的基于扩散的框架DADiff，旨在解决强化学习中跨域策略适应的挑战。该方法通过利用生成模型来解决源域和目标域之间的动态不匹配问题。DADiff通过分析生成轨迹的差异来估计动态不匹配，并提供用于奖励修改和数据选择的变体，以有效地适应策略。理论分析支持该框架跨域性能差异的界定能力，实验表明其性能优于现有方法。
-
新专著勾勒深度学习理论从近似到涌现的蓝图
一本题为《从近似到涌现：深度学习理论》的新专著，提供了一个统一的、面向证明的现代深度学习理论叙述。本书追溯了该领域从近似和泛化等经典概念到过参数化、生成模型、Transformer和涌现等当代主题的演变。它旨在为研究人员和从业者提供一个严谨的深度学习理论图谱，强调其当前的强大之处、不完整性以及日益增长的对学习机制如何从规模、数据、架构和训练中产生的关注。
-
新的得分匹配方法有望实现生成模型的全局收敛
研究人员开发了一种新的生成模型得分匹配方法，该方法利用反向 Fisher 散度而非标准的正向 Fisher 散度。这种替代目标显示出改进的优化特性，特别是对于高斯混合模型。该研究在特定条件下证明了梯度下降的全局收敛性，表明学生分量可以收敛到接近其最近的教师分量，并为全变分距离收敛提供了保证。
-
新的 $L^2$ over Wasserstein 框架增强了随机测度的最优传输
研究人员引入了一个名为 $L^2$ over Wasserstein 空间的新框架，以解决最优传输中的统计不确定性。该框架将经典理论扩展到随机概率测度，保留了 Wasserstein 空间的黎曼结构，并实现了随机梯度流动力学。该方法为随机最优传输提供了一种统一的方法，有利于原则性推理和生成模型，并可以纳入 Transformer 模型中的随机 token 采样等理论。
-
Generalising maximum mean discrepancy: kernelised functional Bregman divergences
研究人员引入了一个新的函数式Bregman散度框架，将其应用扩展到希尔伯特空间和核方法。该方法利用这些空间的性质进行更方便的微积分和更容易的散度估计。该工作讨论了在聚类、通用估计、鲁棒估计和生成模型等领域的潜在应用。