$f$-divergence
PulseAugur coverage of $f$-divergence — every cluster mentioning $f$-divergence across labs, papers, and developer communities, ranked by signal.
-
新的训练方法提高了扩散模型对抗数据污染的鲁棒性
研究人员开发了一种新的扩散模型训练方法，以提高其对抗数据污染的鲁棒性。通过用源自f散度的变换替换标准的均方误差（MSE）去噪损失，模型在损坏数据集下的性能得到提升。这种称为“散度诱导加权去噪”的方法使用样本特定的影响权重来抑制受污染数据的错误，从而在CIFAR-10等基准测试中取得更好的结果。
-
新的强化学习框架使用语言进行自适应指导；调查涵盖大语言模型蒸馏技术 · 跟踪 2 个来源
研究人员推出了一种名为“带语言指令的分层强化学习”（HRLLI）的新型框架，该框架通过在决策过程中动态选择相关的自然语言指导来提高强化学习的效率。这种被称为“选择即行动”（Select-to-Act）的方法将指令分解为特定阶段的元素，使高层策略能够指导低层策略进行自适应动作选择。在RTFM基准上的实验表明，HRLLI优于现有的指令条件强化学习基线。此外，一项调查回顾了大语言模型的“同策略蒸馏”（OPD）技术，解决了将前沿能力转移到更小…
-
新框架模拟LLM中的受监管语言生成
研究人员开发了一个新的变分框架，用于模拟大型语言模型（LLM）中的受监管语言生成。该框架将自回归令牌采样与熵正则化吉布斯定律联系起来，并将监管建模为最优判别器，将生成器-调节器交互表述为鞍点问题。通过分析效用、熵、监管一致性和可检测性之间的权衡，该方法适用于各种审核和检测任务，包括AI欺骗检测、审查和网络钓鱼防御。
-
新论文统一生成流并使用Koopman算子
两篇新研究论文探讨了生成模型中的高级技术。第一篇论文将生成式Wasserstein流（GWF）引入为一个统一的框架，适用于各种生成模型，并扩展到新算法，阐明了与GAN的联系。第二篇论文提出使用Koopman算子来线性化连续归一化流，从而实现更快的采样和对生成过程的新分析见解。
-
新框架将RLHF散度分析与新算法统一
研究人员开发了一个新的从人类反馈强化学习（RLHF）的理论框架，该框架将各种散度函数（标准反向KL正则化之外）的分析统一起来。该研究引入了两种用于在线RLHF的新算法，它们各自采用不同的采样策略来实现可证明的效率。这些算法在一般$f$-散度正则化下建立了RLHF的新性能界限，展示了对遗憾和次优差距的理论保证。