GFlowNets for AI-driven scientific discovery
PulseAugur coverage of GFlowNets for AI-driven scientific discovery — every cluster mentioning GFlowNets for AI-driven scientific discovery across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
Partial GFlowNet 通过划分大状态空间加速 AI 发现
研究人员引入了一种名为 Partial GFlowNet 的新方法,以解决生成流网络 (GFlowNets) 在应用于大状态空间时遇到的收敛挑战。该方法将状态空间划分为较小的、重叠的区域,使 actor 能够有效地识别并专注于奖励较高的子区域。一种启发式策略指导 actor 在这些部分区域之间切换,避免了无效的探索,并加速了学习过程以获得最优解。实验表明,Partial GFlowNet 在大状态空间上的收敛速度比现有方法更快,生成的…
-
PhyloGFN 使用生成流网络进行进化关系推断
研究人员开发了 PhyloGFN,一种利用生成流网络(GFlowNets)进行系统发育推断的新方法。该方法旨在解决从序列数据重建进化关系中的计算挑战。PhyloGFN 旨在改进对树拓扑和进化距离等复杂组合结构的探索和采样,并在边际似然估计和拟合目标分布方面与现有方法相比表现出有竞争力。
-
新型流网络应对随机和对抗性AI挑战
研究人员推出了期望流网络(EFlowNets),这是生成流网络(GFlowNets)的改进版本,旨在在随机环境中有效运行。与现有的GFlowNet模型相比,EFlowNets在蛋白质设计等任务中表现出更优越的性能。在此基础上,研究人员开发了用于双人零和博弈的对抗流网络(AFlowNets),结果表明AFlowNets通过自我对弈可以识别出Connect-4中超过80%的最优走法,并在竞技比赛中超越AlphaZero。
-
GFlowNets 和变分推断算法在某些情况下被证明是等价的
本文探讨了生成流网络 (GFlowNets) 和变分推断 (VI) 之间的联系,这两种都是概率算法家族。作者证明了 VI 算法可以被视为 GFlowNets 的特例,特别是在它们的期望梯度目标方面。该研究强调了 GFlowNets 在离策略训练方面的优势,以及它们在捕捉多模态分布多样性方面的潜力,并将其与强化学习技术进行了类比。
-
GFlowNets 增强 LLM 红队测试以改进 AI 安全性
研究人员开发了一种使用 GFlowNets 的新方法,以提高大型语言模型 (LLM) 自动化红队测试的多样性和有效性。该方法旨在发现更广泛的有害提示,从而增强 LLM 的安全调优。生成的提示已被证明对各种 LLM 有效,并且在它们之间具有良好的迁移性,从而使模型能够抵御其他红队测试技术。
-
GFlowNets 应用于解决复杂的组合优化问题
研究人员开发了一种使用 GFlowNets 的新方法来解决复杂的组合优化问题,这些问题通常对于传统算法来说过于困难。该方法包括为各种问题设计特定的马尔可夫决策过程,并训练条件 GFlowNets 以生成多样化的高质量解决方案。大量实验表明,这种基于 GFlowNet 的策略在高效找到一系列任务的最优或接近最优的解决方案方面非常有效。
-
新的“轨迹平衡”目标改进了 GFlowNet 学习
研究人员引入了“轨迹平衡”,这是生成流网络 (GFlowNets) 的一种新颖学习目标。这个新目标旨在改进 GFlowNets 中的信用分配,GFlowNets 用于从非归一化密度生成组合对象,如图和字符串。所提出的方法被认为是现有目标(如流匹配和详细平衡)的更有效替代方案,这些目标在处理长动作序列时可能会遇到困难。在四个领域的实验证明了轨迹平衡在提高 GFlowNet 收敛性、样本多样性和鲁棒性方面的有效性。
-
FlowNeg 方法通过多样化负采样增强知识图谱嵌入
研究人员开发了 FlowNeg,一种用于在知识图谱嵌入 (KGE) 模型中生成多样化且信息丰富的负样本的新方法。该方法利用上下文条件分层生成流网络来选择既是困难负样本又避免与正例冲突的实体。跨不同架构和基准的实验表明,FlowNeg 在平均倒数排名 (MRR) 方面优于 EMU 和 IF-NS 等现有方法,证明了其在改进 KGE 模型学习方面的有效性。
-
FlowNeg方法通过多样化的负采样增强知识图谱嵌入
研究人员开发了FlowNeg,一种用于知识图谱嵌入(KGE)模型生成多样化且信息丰富的负样本的新颖方法。该方法利用上下文条件分层生成流网络来分摊与奖励成比例的采样,根据模型基础硬度和避免与保留正样本冲突的结构化分数相结合的奖励来选择实体类型,然后选择特定实体。跨不同架构和基准的实验表明,FlowNeg在平均MRR方面始终优于EMU和IF-NS等现有方法,证明了其在改进KGE模型学习方面的有效性。
-
GFlowNets 被用于生成新的英文和土耳其文 LLM 攻击
研究人员开发了一种使用 GFlowNets 自动生成针对大型语言模型 (LLM) 的对抗性攻击的新方法。该方法训练一个攻击者模型来识别受害者 LLM 中的漏洞,并提供量化的鲁棒性分数。该系统旨在适应性强且独立于人类,目标是产生比当前基准更有效的攻击。值得注意的是,这项研究引入了除英语外,还能生成土耳其语攻击输入的能力。
-
GFlowNet可解释性研究质疑药物发现模型中学习到的化学知识
一项新近发表在arXiv上的研究,探讨了GFlowNets(一种用于药物发现的人工智能模型类型)的可解释性。研究人员开发了一个框架来分析SynFlowNet(一个在药物相似性方面训练过的GFlowNet),并发现尽管物理化学性质和官能团可以从其嵌入中解码,但这些信号主要来源于模型的架构和输入特征化,而非学习到的化学表示。该研究表明,高探针分数本身不应被视为分子模型中学习到的化学知识的决定性证据。
-
通过策略梯度和信息几何探索GFlowNet训练方法 · 跟踪2个来源
两篇新研究论文探讨了生成流网络(GFlowNets)的高级训练方法。第一篇论文介绍了一个基于策略梯度的框架,该框架将GFlowNet的流平衡与强化学习的累积奖励联系起来,提供了新的基于策略的训练方法以及前向和后向策略优化的耦合策略。第二篇论文通过信息几何的视角来构建GFlowNet前向策略训练,利用Fisher-Rao度量和自然梯度来推导出高效的、结构感知的训练方法,这些方法可以通过实证来说明。
-
新的AlphaG-OPD框架增强了符号Alpha因子发现
研究人员开发了AlphaG-OPD,一个用于符号Alpha因子发现的新框架,它增强了生成流网络提供的指导。该方法通过提供基于结构化决策的局部动作指导来解决现有模型的局限性,而不是仅仅评估已完成的表达式。AlphaG-OPD通过将决策分为教学内容、教学可靠性以及教学强度等组成部分来实现这一点,从而在中国的和美国的股票指数中实现了强大的跨市场表现。
-
新的回归损失增强了生成流网络训练
研究人员为生成流网络(GFlowNets)开发了新的回归损失函数,以改进其训练过程。通过将回归损失与特定的散度度量联系起来,该团队设计了三种新颖的损失:Shifted-Cosh、Linex(1/2)和Linex(1)。这些新损失可以增强探索和利用,从而在超网格、比特序列生成和分子生成等任务中实现更快的收敛、更大的样本多样性和更高的鲁棒性。
-
新的TILDE方法实现了文本到图像模型中的概念遗忘
研究人员开发了一种新的概念遗忘方法TILDE(TILt-based Distributional Erasure),用于文本到图像扩散模型。该技术解决了在不影响模型生成良性内容整体质量和多样性的情况下,移除特定概念(如受版权保护的风格或私人信息)的挑战。TILDE将遗忘问题构建为分布对齐问题,旨在抑制不需要的概念,同时不负面影响模型生成其他广泛内容的能力。
-
新的 GFlowNet 框架增强了分子发现的主动学习能力
研究人员开发了一个名为 BALD-GFlowNet 的新主动学习框架,该框架利用生成流网络 (GFlowNets) 来提高主动学习的可扩展性,特别是在药物发现等领域的大型数据集上。该方法直接根据 BALD 奖励采样信息分子,绕过了评估整个未标记池的计算瓶颈。虚拟筛选实验表明,BALD-GFlowNet 的性能与标准 BALD 相当,同时生成了结构更多样化的分子,为分子发现提供了一种有效的方法。
-
新的MCMC方法使用神经网络自适应地停止采样
研究人员开发了一个新框架,该框架使用神经网络分类器来自适应地确定何时停止马尔可夫链蒙特卡洛(MCMC)方法的采样。这种方法被置于生成流网络(GFlowNets)的框架内,通过训练分类器来识别高密度区域,从而缩短轨迹长度并提高采样效率。该方法通过详细平衡条件,在理论上将最优分类器与目标密度联系起来,并在实验中与传统的MCMC基线相比,在模式覆盖和混合方面显示出显著的改进。
-
近端策略优化增强GFlowNet训练
研究人员引入了近端策略优化(PPO)作为训练生成流网络(GFlowNets)的新方法。该方法利用GFlowNets与熵正则化强化学习之间的联系来推导策略梯度算法。论文表明,与现有的GFlowNet训练目标相比,PPO在包括分子图生成在内的各种基准测试中,提供了更快的收敛速度和更高的数据效率。
-
新的GFlowNet方法生成高度可合成的分子
研究人员开发了一种名为S3-GFN的新方法,用于生成既可合成又具有理想性质的分子。该方法使用基于序列的生成流网络(GFlowNet),并带有软正则化,整合了从大型数据集中学习到的丰富分子先验。通过使用具有可合成和不可合成分子独立缓冲区的对比学习,S3-GFN有效地将生成过程引导至高回报的化学空间,在实验中实现了超过95%的可合成性。
-
新的GFlowNet框架组合预训练模型用于多目标生成
研究人员开发了一个新的生成流网络(GFlowNets)框架,允许在推理时组合预训练模型。这种方法无需重新训练即可快速适应新的多目标生成任务。该框架支持从线性标量化到复杂非线性算子的灵活奖励组合,并在合成和真实世界的分子生成任务上展示了与现有方法相当的性能。