GFlowNets for AI-driven scientific discovery
PulseAugur coverage of GFlowNets for AI-driven scientific discovery — every cluster mentioning GFlowNets for AI-driven scientific discovery across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的回归损失增强了生成流网络训练
研究人员为生成流网络（GFlowNets）开发了新的回归损失函数，以改进其训练过程。通过将回归损失与特定的散度度量联系起来，该团队设计了三种新颖的损失：Shifted-Cosh、Linex(1/2)和Linex(1)。这些新损失可以增强探索和利用，从而在超网格、比特序列生成和分子生成等任务中实现更快的收敛、更大的样本多样性和更高的鲁棒性。
-
新的TILDE方法实现了文本到图像模型中的概念遗忘
研究人员开发了一种新的概念遗忘方法TILDE（TILt-based Distributional Erasure），用于文本到图像扩散模型。该技术解决了在不影响模型生成良性内容整体质量和多样性的情况下，移除特定概念（如受版权保护的风格或私人信息）的挑战。TILDE将遗忘问题构建为分布对齐问题，旨在抑制不需要的概念，同时不负面影响模型生成其他广泛内容的能力。
-
新的 GFlowNet 框架增强了分子发现的主动学习能力
研究人员开发了一个名为 BALD-GFlowNet 的新主动学习框架，该框架利用生成流网络 (GFlowNets) 来提高主动学习的可扩展性，特别是在药物发现等领域的大型数据集上。该方法直接根据 BALD 奖励采样信息分子，绕过了评估整个未标记池的计算瓶颈。虚拟筛选实验表明，BALD-GFlowNet 的性能与标准 BALD 相当，同时生成了结构更多样化的分子，为分子发现提供了一种有效的方法。
-
新的MCMC方法使用神经网络自适应地停止采样
研究人员开发了一个新框架，该框架使用神经网络分类器来自适应地确定何时停止马尔可夫链蒙特卡洛（MCMC）方法的采样。这种方法被置于生成流网络（GFlowNets）的框架内，通过训练分类器来识别高密度区域，从而缩短轨迹长度并提高采样效率。该方法通过详细平衡条件，在理论上将最优分类器与目标密度联系起来，并在实验中与传统的MCMC基线相比，在模式覆盖和混合方面显示出显著的改进。
-
近端策略优化增强GFlowNet训练
研究人员引入了近端策略优化（PPO）作为训练生成流网络（GFlowNets）的新方法。该方法利用GFlowNets与熵正则化强化学习之间的联系来推导策略梯度算法。论文表明，与现有的GFlowNet训练目标相比，PPO在包括分子图生成在内的各种基准测试中，提供了更快的收敛速度和更高的数据效率。
-
新的GFlowNet方法生成高度可合成的分子
研究人员开发了一种名为S3-GFN的新方法，用于生成既可合成又具有理想性质的分子。该方法使用基于序列的生成流网络（GFlowNet），并带有软正则化，整合了从大型数据集中学习到的丰富分子先验。通过使用具有可合成和不可合成分子独立缓冲区的对比学习，S3-GFN有效地将生成过程引导至高回报的化学空间，在实验中实现了超过95%的可合成性。
-
新的GFlowNet框架组合预训练模型用于多目标生成
研究人员开发了一个新的生成流网络（GFlowNets）框架，允许在推理时组合预训练模型。这种方法无需重新训练即可快速适应新的多目标生成任务。该框架支持从线性标量化到复杂非线性算子的灵活奖励组合，并在合成和真实世界的分子生成任务上展示了与现有方法相当的性能。
-
新的GFlowNet训练方法提高了LLM前缀平衡性和多样性
研究人员引入了一种新的生成流网络（GFlowNets）训练方法，称为Rooted absorbed prefix Trajectory Balance (RapTB)，旨在解决大型语言模型中的前缀崩溃和长度偏差等问题。RapTB通过将子轨迹监督锚定在根部并向中间前缀传播奖励来改进信用分配。此外，还提出了一种名为SubM的子模态回放刷新策略，以对抗由有偏回放引起的分布偏移，从而在训练流中同时促进高奖励和多样性。在分子生成等任务上的实证结…
-
新的 PACED-RL 框架提高了 LLM 训练效率
研究人员提出了一个名为 PACED-RL 的新框架，该框架将 GFlowNets 中的配分函数重新解释为 LLM 训练的难度调度器。该方法利用通常未使用的每提示预期奖励信号来提高样本效率和生成多样性。实验表明，PACED-RL 在各种基准测试中优于 GRPO 和其他 GFlowNet 方法等现有方法。
-
新方法分解生成式AI中的不确定性以促进科学发现
研究人员开发了一种新方法来分解顺序生成模型中的认知不确定性，特别是那些用于AI驱动的科学发现的模型。通过将多项式混沌展开拟合到训练模型的集合中，该方法提供了对奖励不确定性如何影响生成决策的可解释的分解。该技术在识别各种科学任务中的敏感和鲁棒组件方面，提供了对复杂数据集的可操作见解，其性能优于深度集成和贝叶斯神经网络等传统方法。
-
稳定的GFlowNets算法提高了训练稳定性和保真度
研究人员推出了一种名为Stable GFlowNets的算法，旨在解决生成流网络（GFlowNets）的训练不稳定性问题。这些网络用于以与奖励成比例的概率采样状态，但经常遭受损失尖峰和模式崩溃等问题。新方法提供了概率保证和理论界限来稳定训练，从而提高了分布保真度和一致性。