PulseAugur
中
实时 09:43:57
English(EN) Canonical Joint Energy-Based Model on CIFAR-10: failure modes and practical indistinguishability of Predictor-Corrector and SGLD samplers

正则化 JEM 模型显示 PC 和 SGLD 采样器之间性能无差异

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员调查了预测-校正器 (PC) 和随机梯度 Langevin 动力学 (SGLD) 这两种采样方法应用于 CIFAR-10 数据集上的正则化联合能量模型 (JEM) 时的性能。该研究旨在确定 PC 采样器是否能在统一分类和生成任务方面复制 SGLD 的理论优势。研究结果表明，在测试准确率和分布外检测方面，两种方法的性能几乎相同，PC 相对于 SGLD 并没有明显优势。研究还确定了两种失效模式：后期训练发散和分布外判别中的运行依赖动力学。 AI

影响 这项研究为生成模型不同采样技术的实际性能提供了见解，可能影响未来的模型开发和评估。

排序理由 该集群包含一篇学术论文，详细介绍了对能量模型采样方法的研究。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv stat.ML 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

正则化 JEM 模型显示 PC 和 SGLD 采样器之间性能无差异

报道来源 [1]

  1. arXiv stat.ML TIER_1 English(EN) · Dmytro Knopov ·

    CIFAR-10上的正则化联合能量模型：预测器-校正器和SGLD采样器的失效模式与实际不可区分性

    arXiv:2608.05025v1 Announce Type: cross Abstract: Joint Energy-Based Models (JEM) unify classification and generation within a single network and support out-of-distribution (OOD) detection. Canonical JEM training relies on stochastic gradient Langevin dynamics (SGLD); a theoreti…

相关实体

相关话题