Generative Flow Networks
PulseAugur coverage of Generative Flow Networks — every cluster mentioning Generative Flow Networks across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Particle GFlowNets 统一生成模型,加速训练
研究人员推出了一种新方法 Particle GFlowNets,它将生成边际化模型 (MaMs) 与生成流网络 (GFlowNets) 统一起来。这种新方法通过实现更快的后验评估并将其采样策略扩展到非自回归生成过程来增强 MaMs。通过纳入源自 Gelman-Rubin 统计量用于全状态 पुनर्जीवन (rejuvenation) 的标准,Particle GFlowNets 显著加速了在大型组合空间中的训练收敛,实验证明了这一点。
-
PhyloGFN 使用生成流网络进行进化关系推断
研究人员开发了 PhyloGFN,一种利用生成流网络(GFlowNets)进行系统发育推断的新方法。该方法旨在解决从序列数据重建进化关系中的计算挑战。PhyloGFN 旨在改进对树拓扑和进化距离等复杂组合结构的探索和采样,并在边际似然估计和拟合目标分布方面与现有方法相比表现出有竞争力。
-
新的GFlowNet方法联合推断贝叶斯网络结构与参数
研究人员开发了JSP-GFN,一种利用生成流网络(GFlowNets)联合推断贝叶斯网络结构和参数的新颖方法。该方法通过实现对这些元素的联合后验分布的近似,扩展了现有的GFlowNet应用,能够处理非线性模型和神经网络参数化。在模拟和真实世界数据上的实验表明,JSP-GFN提供了准确的近似,并且与现有方法相比表现良好。
-
通过策略梯度和信息几何探索GFlowNet训练方法 · 跟踪2个来源
两篇新研究论文探讨了生成流网络(GFlowNets)的高级训练方法。第一篇论文介绍了一个基于策略梯度的框架,该框架将GFlowNet的流平衡与强化学习的累积奖励联系起来,提供了新的基于策略的训练方法以及前向和后向策略优化的耦合策略。第二篇论文通过信息几何的视角来构建GFlowNet前向策略训练,利用Fisher-Rao度量和自然梯度来推导出高效的、结构感知的训练方法,这些方法可以通过实证来说明。
-
新论文统一进化计算用于自主交易信号发现
一篇新论文提出了一个统一的进化计算(EC)视角,用于自动化公式化阿尔法发现,这是一个从符号因子空间生成交易信号的过程。该研究引入了一个六个组成部分的框架来分析现有方法,以及一个八维评估框架来指导开发更可靠和自适应的阿尔法发现系统。这种方法旨在解决诸如嘈杂的适应度估计、市场非平稳性和昂贵的历史回测等挑战。
-
新的回归损失增强了生成流网络训练
研究人员为生成流网络(GFlowNets)开发了新的回归损失函数,以改进其训练过程。通过将回归损失与特定的散度度量联系起来,该团队设计了三种新颖的损失:Shifted-Cosh、Linex(1/2)和Linex(1)。这些新损失可以增强探索和利用,从而在超网格、比特序列生成和分子生成等任务中实现更快的收敛、更大的样本多样性和更高的鲁棒性。
-
新的MCMC方法使用神经网络自适应地停止采样
研究人员开发了一个新框架,该框架使用神经网络分类器来自适应地确定何时停止马尔可夫链蒙特卡洛(MCMC)方法的采样。这种方法被置于生成流网络(GFlowNets)的框架内,通过训练分类器来识别高密度区域,从而缩短轨迹长度并提高采样效率。该方法通过详细平衡条件,在理论上将最优分类器与目标密度联系起来,并在实验中与传统的MCMC基线相比,在模式覆盖和混合方面显示出显著的改进。
-
GFlowNets 被证明可学习最优传输方案
研究人员建立了生成流网络 (GFlowNets) 与最优传输 (OT) 之间的理论联系。他们的工作表明,非循环 GFlowNets 在优化后可以有效地编码最优传输方案。这种联系使得 GFlowNet 框架能够通过神经参数化和边流应用于大规模 OT 问题,实验表明与现有的 OT 求解器一致。
-
GFlowGR框架使用生成流网络进行推荐微调
研究人员推出了一种新颖的生成推荐系统微调框架 GFlowGR,该框架利用生成流网络(GFlowNets)。该方法旨在解决当前方法(如监督微调(SFT)和直接偏好优化(DPO))中固有的暴露偏差问题。GFlowGR 整合了传统推荐系统的协同知识,以创建自适应采样器和奖励模型,从而减轻暴露偏差并提高推荐质量。
-
新的GFlowNet框架组合预训练模型用于多目标生成
研究人员开发了一个新的生成流网络(GFlowNets)框架,允许在推理时组合预训练模型。这种方法无需重新训练即可快速适应新的多目标生成任务。该框架支持从线性标量化到复杂非线性算子的灵活奖励组合,并在合成和真实世界的分子生成任务上展示了与现有方法相当的性能。
-
新的GFlowNet训练方法提高了LLM前缀平衡性和多样性
研究人员引入了一种新的生成流网络(GFlowNets)训练方法,称为Rooted absorbed prefix Trajectory Balance (RapTB),旨在解决大型语言模型中的前缀崩溃和长度偏差等问题。RapTB通过将子轨迹监督锚定在根部并向中间前缀传播奖励来改进信用分配。此外,还提出了一种名为SubM的子模态回放刷新策略,以对抗由有偏回放引起的分布偏移,从而在训练流中同时促进高奖励和多样性。在分子生成等任务上的实证结…
-
新的 GFlowNet 训练方法改进了离线学习
研究人员开发了一种新的无代理生成流网络(GFlowNets)训练框架,称为轨迹蒸馏 GFlowNet(TD-GFN)。该方法使用逆强化学习从离线轨迹中提取详细奖励,提供比以往方法更丰富的指导。TD-GFN 通过依赖真实终端奖励来确保训练稳定性,避免错误传播,并在收敛性和样本质量方面优于现有方法。
-
AI框架利用生成网络加速无线电传播建模
研究人员开发了一个新的机器学习框架,使用生成流网络来显著加速无线电传播建模。该方法通过智能采样路径而不是穷举搜索路径来解决传统射线追踪的计算复杂性。该系统包含一个经验回放缓冲区、一个统一的探索策略和基于物理的动作掩码,以处理稀疏奖励并确保稳健的学习。虽然在理想化场景中实现了显著的加速并保持了准确性,但该模型需要进一步的改进才能有效地推广到复杂的真实城市环境。
-
Stable-GFN通过稳定、多样化的攻击生成来增强LLM红队测试
研究人员推出Stable-GFlowNet (S-GFN),这是一种旨在增强大型语言模型 (LLM) 红队测试的多样性和鲁棒性的新方法。该方法通过成对比较消除分区函数估计,并引入流畅性稳定器以防止次优输出,从而解决了在使用生成流网络 (GFN) 识别 LLM 漏洞时遇到的训练不稳定和模式崩溃问题。