PulseAugur
中
实时 15:10:56
实体 Gaussian Mixture Models

Gaussian Mixture Models

PulseAugur coverage of Gaussian Mixture Models — every cluster mentioning Gaussian Mixture Models across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
18
90 天内 56
发布 · 30天
0
90 天内 0
论文 · 30天
18
90 天内 55
层级分布 · 90 天
主题
情绪 · 30 天

4 天有情绪数据

最近 · 第 1/3 页 · 共 60 条
  1. TOOL · CL_368351 ·

    ProtoSeam 方法在标准基准测试中将分类器准确率提升高达 6%

    研究人员推出了一种名为 ProtoSeam 的新方法,通过重新构建监督分类来提高分类器准确率。该技术涉及在语义接口处分割神经网络,并为每个类别插入一个可学习的原型。在训练过程中,共识惩罚将初始网络层的输出拉向这些原型,而第二层则在围绕原型的样本上进行训练。这种方法在 ResNet 和视觉 Transformer 架构上,于 CIFAR-10、CIFAR-100 和 TinyImageNet 等数据集上,将测试准确率提高了多达六个百分点…

  2. TOOL · CL_368095 ·

    具有许多组的高斯混合聚类的界限

    本文研究了当组的数量显著超过数据维度时,高斯混合模型聚类的计算挑战。研究人员为这种特定情况下的样本复杂度建立了新的理论界限,表明样本量要求取决于组的数量与数据维度之间的关系。研究结果提供了对使用低度多项式方法进行准确聚类所需的最小分离度的更精确理解。

  3. RESEARCH · CL_360394 ·

    新协议支持对私有数据进行可验证的随机抽样

    研究人员开发了一种名为NoCherry的协议,该协议无需依赖可信的单方即可对私有数据进行可验证的随机抽样。该方法使用去中心化的随机信标来选择样本,确保审计人员可以验证随机性,并且数据持有者无法挑选数据来隐藏缺陷。该协议适用于各种审计场景,包括私有AI基准测试和数据集质量声明,允许无偏见的样本选择,同时保护完整数据集的机密性。

  4. TOOL · CL_336073 ·

    新框架使用半非参数密度进行非高斯不确定性估计

    研究人员开发了一个新的数学框架,使用半非参数(SNP)密度来估计非高斯不确定性。该方法采用厄米多项式来确保概率密度非负并捕捉非高斯行为。一旦SNP密度拟合到样本数据,就可以直接进行密度和概率的解析评估,而无需在多项式阶数之外进行额外的超参数调整。在混沌洛伦兹系统上的演示表明,SNP密度能够准确表示非高斯状态分布,并实现直接的概率和分位数评估,为非线性估计和控制中的不确定性量化提供了一个有前景的工具。

  5. TOOL · CL_327519 ·

    新框架SIGMA通过不确定性量化增强生成模型验证

    研究人员开发了SIGMA,一个旨在改进生成模型验证的新框架,特别是在粒子物理学等科学应用中。该框架集成了密度估计和鲁棒的不确定性量化,解决了当前机器学习技术的一个关键限制。通过将模型不确定性视为拟合优度检验中的无关参数,SIGMA区分了真实的模型错误和由有限训练数据引起的误差。这种方法使得生成模型可以在显著更大的测试集上得到信任,从而在需要高统计严谨性的领域得到更可靠的应用。

  6. TOOL · CL_327518 ·

    新下界挑战高维聚类算法

    研究人员在高维设置下为聚类算法建立了新的理论下界。该研究侧重于簇数量远超数据维度的场景。通过构建基于双 BCH 码的伯努利分布混合,研究团队证明,即使簇中心之间存在对数级分离,聚类在计算上仍然具有挑战性。这种难度延伸到各向同性高斯混合模型,表明某些聚类方法存在根本性限制。

  7. RESEARCH · CL_327069 ·

    预条件流匹配改进生成模型训练

    研究人员开发了一种名为预条件流匹配(PFM)的新技术,以改进生成模型的训练。PFM解决了优化瓶颈问题,该问题中中间分布的病态协方差会减慢学习速度。通过在训练前将目标分布转换为更各向同性的表示,PFM重塑了流匹配路径并增强了其条件性。在高达512x512分辨率的图像数据集上进行的实验表明,在FID、MMD、精度和召回率等图像质量指标方面有所改进。

  8. TOOL · CL_315265 ·

    新研究分析了高斯混合模型在Hellinger距离下的NPMLE

    研究人员分析了用于估计单变量高斯混合密度的非参数最大似然估计量(NPMLE)。他们证明了当混合测度为亚高斯测度时,无约束NPMLE在Hellinger距离平方误差下达到了$\log(n)/n$的minimax最优率。此外,对于具有紧支撑的混合测度,约束在紧区间内的NPMLE也达到了略快的minimax最优率。

  9. TOOL · CL_312737 ·

    高斯混合模型 Ho--Nguyen 猜想已解决,影响 AI 模型学习

    研究人员解决了关于高斯混合模型的 Ho--Nguyen 猜想,该猜想涉及过拟合模型中密度抵消的阶数。该解决方案涉及一个正方差移位,将系数方程转化为高斯矩匹配。对于至少有两个分量的系统,猜想的阶数被证明恰好是分量数的两倍,具有尖锐的变号界限和构造到该阶数的解。这项工作对参数学习率和理解专家混合模型中的参数对称性具有启示作用。

  10. RESEARCH · CL_312847 ·

    新框架“Foreword”利用雅可比透镜预测LLM测试失败

    研究人员开发了一个名为Foreword的新框架,以更有效地预测和表征大型语言模型(LLM)的测试失败。该框架利用“雅可比透镜”(J-lens)根据模型的内部状态来表示输入,并从成功的和失败的测试用例中学习。Foreword与逻辑回归或高斯混合模型等估计器配对时,在预测失败和优先排序各种任务和开源LLM的测试用例方面,其性能显著优于Clotho等现有方法。该方法还提供了对失败原因的语义洞察,例如任务规范中的歧义。

  11. TOOL · CL_303635 ·

    新方法确保高斯混合模型差分隐私

    研究人员开发了一种新的方法,用于在确保差分隐私的同时发布高斯混合模型(GMM)参数。该方法解决了共享GMM(常用于多模态数据)相关的隐私风险。所提出的框架利用 Kullback-Leibler(KL)散度来衡量发布参数的准确性,并考虑了噪声对混合权重、均值和协方差矩阵的综合影响。在给定的 $(\epsilon, \delta)$-DP 约束下,构建了一个优化问题来最小化此 KL 散度,实验证明了其强大的隐私保证和高实用性。

  12. TOOL · CL_303586 ·

    新框架支持在本地差分隐私下进行高效的分布学习

    研究人员开发了一个在本地差分隐私(LDP)下学习单变量分布的新框架。该框架为包括高斯混合模型(GMM)在内的各种分布类别提供了样本高效的LDP学习器,并提供了通用的计算高效保证。该工作还包括一个在LDP下学习GMM的新下界,改进了现有界限。

  13. TOOL · CL_299757 ·

    Rényi DP会计师在DP-SGD方面显示出改进的隐私保证

    一篇新的研究论文探讨了Rényi DP会计师在差分隐私随机梯度下降(DP-SGD)中的有效性。研究观察到,Rényi DP可以利用与无损框架不同的最坏情况分布对,特别是二维高斯混合模型。数值和渐近比较表明,这种改进的Rényi DP界限可以在各种超参数设置下提供更优越的隐私保证。

  14. RESEARCH · CL_289652 ·

    新研究探讨Transformer中的Softmax Attention能力

    一篇新论文探讨了Softmax Attention的理论基础,这是Transformer模型中的一个关键组成部分。研究人员证明了Softmax Attention能够有效地处理线性和非线性统计任务。研究表明,它在处理线性任务时可以与更简单的线性Attention机制媲美,同时还能利用上下文选择来解决更复杂的非线性问题。

  15. TOOL · CL_286922 ·

    新的高斯混合模型增强了车辆轨迹预测能力

    研究人员开发了一种新的上下文感知注意力机制高斯混合模型(CAA-GMM),用于在复杂驾驶场景中预测车辆轨迹。该模型采用概率混合方法,以场景上下文和代理动态为条件,以捕捉多样的行为模式。注意力机制能够有效地整合环境线索和运动历史,在nuScenes和Argoverse 2等数据集上实现了具有竞争力的准确性,同时保持了较低的计算成本。CAA-GMM在不完美的通信和感知条件下也表现出韧性,使其成为智能交通系统的可扩展解决方案。

  16. TOOL · CL_284640 ·

    对抗性训练使线性 Transformer 具备鲁棒的上下文内学习能力

    一篇新的研究论文探讨了对抗性训练在大型语言模型中实现鲁棒的上下文内学习的有效性。研究表明,在广泛任务上经过对抗性预训练的模型,可以通过上下文内学习在新的、未见过任务上实现最佳鲁棒性,而无需进一步进行特定任务的对抗性训练。这与标准训练的模型形成对比,后者无法在新的任务上达到相同的鲁棒性水平。该研究分析了收敛特性、准确性-鲁棒性权衡以及有效上下文内学习所需的演示复杂度。

  17. TOOL · CL_284627 ·

    新方法通过约束高斯混合模型增强稀有事件概率估计

    研究人员开发了一个新的框架,使用重要性采样来估计稀有事件的概率,旨在提高现有方法的效率和鲁棒性。该方法将问题分为覆盖和拟合阶段,并约束高斯混合模型(GMM)提案以确保有限方差。实验表明,在其他方法经常失败的高维和多模态场景中,方差显著降低且成本效益高。

  18. RESEARCH · CL_284717 ·

    梯度EM学习高斯混合模型在高维空间中需要$\sqrt{d}$分离

    一篇新的研究论文探讨了梯度期望最大化(EM)算法在高维环境中学习高斯混合模型(GMM)的局限性。研究表明,缩放为$\Omega(d^{0.5-\epsilon})$的分量分离不足以保证全局收敛,从而为此类学习建立了近乎最优的最坏情况下界。

  19. TOOL · CL_277328 ·

    新方法在 অবস্থ混合模型中实现多对数稀疏性

    一篇新的研究论文介绍了一种在高斯混合模型中实现多对数稀疏性的方法。该技术涉及对似然函数进行小的随机扰动,从而产生一个独特且稀疏的估计器,与传统方法相比,其原子数量大大减少。研究结果表明,这种随机重加权的NPMLE可以在接近参数化的速率下估计混合密度,同时保持与普通NPMLE相当的支持大小。

  20. TOOL · CL_273668 ·

    新方法实现机器学习的可微期望最大化

    研究人员开发了新方法,使期望最大化(EM)算法(如高斯混合模型(GMM)等统计和机器学习任务的常用工具)能够进行端到端梯度传播。这一进展使得EM能够集成到现代学习流程中。该工作还引入了一种可微EM的新应用,用于计算GMM之间的混合Wasserstein距离($\mathrm{MW}_2$),使其能够用作各种成像和机器学习应用(包括图像生成和纹理合成)中的可微损失函数。