Esmeralda Whitammer
PulseAugur coverage of Esmeralda Whitammer — every cluster mentioning Esmeralda Whitammer across labs, papers, and developer communities, ranked by signal.
-
PhyloGFN 使用生成流网络进行进化关系推断
研究人员开发了 PhyloGFN,一种利用生成流网络(GFlowNets)进行系统发育推断的新方法。该方法旨在解决从序列数据重建进化关系中的计算挑战。PhyloGFN 旨在改进对树拓扑和进化距离等复杂组合结构的探索和采样,并在边际似然估计和拟合目标分布方面与现有方法相比表现出有竞争力。
-
新方法在无数据样本情况下模拟随机动力学
研究人员开发了一种模拟薛定谔桥的新方法,薛定谔桥是连接两个概率分布的随机动力学系统。这种新方法,称为数据到能量IPF,即使在其中一个或两个分布的样本不可用时,也能推断这些动力学,而是依赖于它们的非归一化密度。该方法受到用于训练扩散采样器的离策略强化学习技术的启发,并在合成场景中取得了成功,包括学习多模态分布之间的传输。作为副产品,该技术还通过学习扩散系数来改进现有的数据到数据薛定谔桥算法。研究人员已将此方法应用于图像到图像翻译任务,通…
-
新的强化学习算法TGM增强了科学发现的候选过滤
研究人员开发了一种新的科学发现方法,旨在改进蛋白质或分子等潜在候选物的过滤。该方法使用一个统一的算子,结合了几个正则化强化学习(RL)算子,以更好地针对特定的采样分布,解决了在大型搜索空间中生成过于多样化和次优候选物的问题。新算法名为轨迹通用Mellowmax(TGM),为过滤过程提供了鲁棒的强化学习视角,并在合成任务和现实世界任务中都证明了其比现有方法识别更高质量、更多样化候选物的能力。
-
新的自适应教师方法改进了复杂分布的摊销推理
研究人员开发了一种新颖的摊销推理方法,该方法用于训练参数化模型(如神经网络)来近似复杂分布。这种新方法利用一个自适应训练分布(称为“教师”)来指导主要的“学生”模型。教师模型被训练来识别和采样学生模型的高损失区域,从而改进探索和模式覆盖。该技术已在合成环境、基于扩散的采样任务和生物化学发现挑战中得到验证,显示出更高的样本效率和更广泛的覆盖范围。
-
新型流网络应对随机和对抗性AI挑战
研究人员推出了期望流网络(EFlowNets),这是生成流网络(GFlowNets)的改进版本,旨在在随机环境中有效运行。与现有的GFlowNet模型相比,EFlowNets在蛋白质设计等任务中表现出更优越的性能。在此基础上,研究人员开发了用于双人零和博弈的对抗流网络(AFlowNets),结果表明AFlowNets通过自我对弈可以识别出Connect-4中超过80%的最优走法,并在竞技比赛中超越AlphaZero。
-
新的Delta-AI算法加速了稀疏图模型的推理
研究人员推出了一种名为Delta-AI的新型算法,用于稀疏概率图模型(PGM)中的摊销推理。该方法利用PGM的稀疏性,在智能体策略学习目标内实现局部信用分配。通过将变量采样视为一系列动作,Delta-AI能够进行离策略训练,而无需为每次参数更新实例化所有随机变量,从而显著加快了训练过程。
-
GFlowNets 和变分推断算法在某些情况下被证明是等价的
本文探讨了生成流网络 (GFlowNets) 和变分推断 (VI) 之间的联系,这两种都是概率算法家族。作者证明了 VI 算法可以被视为 GFlowNets 的特例,特别是在它们的期望梯度目标方面。该研究强调了 GFlowNets 在离策略训练方面的优势,以及它们在捕捉多模态分布多样性方面的潜力,并将其与强化学习技术进行了类比。
-
GFlowNets 增强 LLM 红队测试以改进 AI 安全性
研究人员开发了一种使用 GFlowNets 的新方法,以提高大型语言模型 (LLM) 自动化红队测试的多样性和有效性。该方法旨在发现更广泛的有害提示,从而增强 LLM 的安全调优。生成的提示已被证明对各种 LLM 有效,并且在它们之间具有良好的迁移性,从而使模型能够抵御其他红队测试技术。
-
两篇arXiv论文回顾概率生成模型并介绍新的质量评估方法
两篇新的arXiv论文探讨了概率生成模型的进展。第一篇是综述,重点关注概率电路(PCs)及其表达能力与可处理性之间的权衡,并讨论了混合深度模型和PC模型。第二篇论文介绍了PQMass,一种使用概率质量估计和卡方检验的无密度估计方法,用于在没有密度假设或辅助模型的情况下评估生成模型质量。
-
新的流匹配方法增强了用于设计和成像的生成模型 · 跟踪了 6 个来源
研究人员正在探索先进的流匹配技术,以增强用于逆向设计问题和图像生成的生成模型。条件流匹配 (CFM) 在工程逆向设计方面显示出潜力,在最优性差距和偏差等指标上优于扩散模型和条件 GAN。其他方法侧重于无训练精炼,例如使用发散信号来提高生成质量的流发散采样器 (FDS),以及在冻结模型中迭代更新 Transformer 层以提高图像生成保真度的隐藏状态精炼技术。这些进展旨在提高从结构和热设计到文本到图像合成和 MRI 协调等任务的效率和准确性。
-
扩散模型展示出固有的注意力机制和改进的采样技术 · 跟踪了7个来源
近期研究探索了扩散模型(一种主流的图像生成架构)的进展。一篇论文揭示了这些模型固有地利用了类似于Transformer的注意力机制,这表明注意力是一种通用的机器学习原理。另一项研究引入了控制变量分数匹配(CVSI)来提高扩散模型的采样效率并降低方差。此外,一种名为优势加权匹配(AWM)的新方法将强化学习目标与扩散模型的预训练相结合,从而显著加快了生成质量。
-
新研究通过新颖的采样策略改进扩散模型训练
一篇新研究论文探讨了训练扩散模型从由非归一化密度或能量函数定义的分布中采样的各种方法。该研究对现有的基于仿真的变分和离策略生成流网络方法进行了基准测试,并对一些先前的说法提出了质疑。它还引入了一种新颖的离策略方法探索策略,利用局部搜索和回放缓冲区来提高各种目标分布的样本质量。作者已公开了他们用于这些采样方法和基准测试的代码,以促进扩散模型在摊销推理方面的未来研究。
-
新的GFlowNet方法联合推断贝叶斯网络结构与参数
研究人员开发了JSP-GFN,一种利用生成流网络(GFlowNets)联合推断贝叶斯网络结构和参数的新颖方法。该方法通过实现对这些元素的联合后验分布的近似,扩展了现有的GFlowNet应用,能够处理非线性模型和神经网络参数化。在模拟和真实世界数据上的实验表明,JSP-GFN提供了准确的近似,并且与现有方法相比表现良好。
-
GFlowNets 应用于解决复杂的组合优化问题
研究人员开发了一种使用 GFlowNets 的新方法来解决复杂的组合优化问题,这些问题通常对于传统算法来说过于困难。该方法包括为各种问题设计特定的马尔可夫决策过程,并训练条件 GFlowNets 以生成多样化的高质量解决方案。大量实验表明,这种基于 GFlowNet 的策略在高效找到一系列任务的最优或接近最优的解决方案方面非常有效。
-
新的“轨迹平衡”目标改进了 GFlowNet 学习
研究人员引入了“轨迹平衡”,这是生成流网络 (GFlowNets) 的一种新颖学习目标。这个新目标旨在改进 GFlowNets 中的信用分配,GFlowNets 用于从非归一化密度生成组合对象,如图和字符串。所提出的方法被认为是现有目标(如流匹配和详细平衡)的更有效替代方案,这些目标在处理长动作序列时可能会遇到困难。在四个领域的实验证明了轨迹平衡在提高 GFlowNet 收敛性、样本多样性和鲁棒性方面的有效性。