Gaussian mixture model
PulseAugur coverage of Gaussian mixture model — every cluster mentioning Gaussian mixture model across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
新公式校准差分隐私随机梯度下降噪声以对抗成员推断攻击
研究人员开发了一种新的闭式公式，用于校准差分隐私随机梯度下降（DP-SGD）的噪声水平。DP-SGD 是一种通过向梯度添加噪声来保护训练数据的方法。该公式特别适用于具有随机分配的 DP-SGD，其中每个记录在每个 epoch 中随机使用一次。推导出的公式提供了对使用此方法训练的模型的成员推断攻击（MIA）准确度的上限，与传统的数值隐私会计方法相比，提供了一种更有效的方法来确定必要的噪声乘数。
-
新方法通过约束高斯混合模型增强稀有事件概率估计
研究人员开发了一个新的框架，使用重要性采样来估计稀有事件的概率，旨在提高现有方法的效率和鲁棒性。该方法将问题分为覆盖和拟合阶段，并约束高斯混合模型（GMM）提案以确保有限方差。实验表明，在其他方法经常失败的高维和多模态场景中，方差显著降低且成本效益高。
-
新的回拉几何方法增强了多模态数据表示
研究人员开发了一种新的多模态数据回拉几何方法，该方法利用潜在高斯混合模型。该方法旨在通过允许数据点之间的路径比单模态高斯方法更有效地穿越高似然区域来提高几何表示的统计意义。新几何由基于分量精度的黎曼度量定义，已在自适应学习混合分量的归一化流中实现，在包括 MNIST 在内的各种数据集上显示出更少的传输失真和更真实的插值。
-
新的本地支持学习框架解决了大型语言模型中的灾难性遗忘问题
研究人员开发了本地支持学习（LSL），一个旨在解决预训练大型模型中灾难性遗忘问题的新颖框架。LSL 将遗忘视为权重矩阵输入空间中的一个几何问题来解决，并提出了一种改进标准基于梯度的优化器的保留目标。该框架集成了带有门控功能的权重适配器，该适配器经过训练，仅激活来自其特定训练分布的输入，从而实现本地化更新。该方法已成功解决了多达 70 亿参数的大型语言模型中的遗忘问题，在多个训练阶段以高效的内存和计算使用量保留了预训练和微调的能力。
-
新的本地支持学习框架解决了大型语言模型中的灾难性遗忘问题
研究人员推出了一种名为本地支持学习（LSL）的新型框架，旨在解决预训练大型模型中的灾难性遗忘问题。LSL采用双组分系统：一个用于新学习的标准权重适配器和一个限制更新到特定数据分布的门控函数。该方法旨在保留先前的能力，而无需访问旧数据，并且在参数量高达70亿的大型语言模型中被证明是有效的。
-
新论文用反例批评OTGMM估计器
一篇新论文批评了最优输运广义矩估计法（OTGMM）估计器，并对Schennach & Starck (2026a)提出的关键定理提出了反例。作者认为，一致性和渐近正态性的假设条件不足，并且OTGMM估计器可能产生与矩修正后的GMM估计器不同的结果。该论文还提供了实现一致性和渐近正态性的条件，并建议用一个矩阵条件来替代现有的一个假设。
-
新的联邦软聚类方法使用GTVMin连接个性化GMM
研究人员开发了一种新的联邦软聚类方法，该方法允许设备在其私有数据上训练个性化高斯混合模型（GMM）。该方法称为广义全变分最小化（GTVMin），使用图正则化器通过惩罚局部模型之间的差异来连接它们。该研究比较了三种差异度量：平方欧氏距离、Kullback-Leibler散度和最大均值差异，并评估了它们的计算成本和对数据异质性的鲁棒性。
-
新的能量先验增强了稀疏数据的三维形状补全能力
研究人员开发了一种新方法，以提高隐式神经表示（INRs）在三维形状补全方面的准确性，尤其是在处理稀疏观测数据时。他们的方法引入了一种受观测条件约束的潜在能量先验，该先验与现有的潜在先验协同工作，引导模型进行更合理的几何重建。该技术在与细胞核和医学形状相关的数据集上进行了评估，在最稀疏的条件下表现出持续的改进，并优于基线方法。
-
Gaussian Core LoRA 增强了文本到图像扩散模型中的概念擦除
研究人员推出了一种名为 Gaussian Core LoRA 的新颖框架，旨在改进文本到图像扩散模型中的概念擦除。该方法通过根据目标概念内的特定语义原型调整擦除方向来解决现有技术的局限性。通过将高斯混合模型拟合到提示特征，Gaussian Core LoRA 动态调整生成以抑制不需要的内容，同时保持视觉质量和良性语义。实验表明，与基线方法相比，攻击成功率显著降低，图像质量指标得到改善，并证明了其对各种扩散模型的鲁棒性和兼容性。
-
新框架通过风险感知决策增强自主超车能力
研究人员开发了一个名为WM-RMoE的新框架，以改进自主高速公路超车的决策能力。该系统使用学习到的潜在动态模型进行并行多步预测，从而能够进行轨迹级别的安全评估和累积风险评估。它还包含一个分层门控机制来协调不同的安全模块，并使用高斯混合模型来保留多模态机动选项，在安全性、稳定性和泛化能力方面优于现有方法。
-
新基准揭示大型语言模型在印度语言和翻译机制方面存在困难 · 跟踪3个来源
研究人员开发了VakyArth，这是一个新的基准，旨在评估大型语言模型（LLMs）在印地语、旁遮普语、泰米尔语和马拉雅拉姆语等印度语言中的语用能力。初步研究结果显示，在解释这些语言中通过上下文和文化习俗暗示的含义时，大型语言模型存在持续的失败，并且在不同语言和任务中的表现差异很大。此外，另一项独立研究对多语言大型语言模型中“潜在语言”的解释提出了质疑，认为当前的探测可能揭示了多语言处理的不同方面，而不是单一的内部通用语。另一篇论文提出…
-
新研究探讨用于分类的依赖于不确定性的缺失标签
一篇新的研究论文探讨了一种半监督分类方法，其中标签缺失的概率取决于观测到的特征和分类器的不确定性。这种方法将缺失不仅仅视为丢失的信息，而是视为由与分类器相关的机制生成的信号。该论文为这些依赖于不确定性的缺失标签开发了一种基于似然的信息论，并在各种模型规范下推导出了费舍尔信息分解和协方差分区。通过高斯混合模型和医学诊断示例进行的计算说明了该方法如何在固定的标记预算内提高估计和分类效率。
-
SketchFlow 使用最优传输和流匹配从文本生成矢量草图
研究人员推出了一种名为SketchFlow的新生成框架，用于根据文本提示创建矢量草图。该方法利用最优传输理论和流匹配直接在CLIP潜在空间中映射文本概念。为了处理文本和草图特征之间的差距，SketchFlow将噪声注入类别嵌入以形成高斯混合模型（GMM）先验，然后使用最优传输条件流匹配模型将其映射到草图特征。混合扩散解码器结合了一维U-Net和Transformer架构，生成最终的笔画轨迹。实验表明，SketchFlow在视觉质量和人…
-
新框架通过密度比率估计增强了基于仿真的推理
研究人员开发了一个新的基于仿真的推理（SBI）框架，该框架解决了现有摊销生成模型的局限性，这些模型通常受限于训练期间使用的特定先验知识。这种新颖的方法利用密度比率估计（DRE）来学习无偏的评分指导项，从而能够灵活地处理不断变化的先验知识，而不会产生系统性偏差。实验表明，该方法在各种任务中与现有技术相当或优于现有技术，即使在训练先验和目标先验之间的重叠有限的情况下也表现出鲁棒性，并且在行星光变曲线数据的贝叶斯更新中被证明是有效的。
-
新的零样本方法利用伪影模式定位图像篡改
研究人员开发了一种新颖的零样本流程，用于定位彩色图像中的篡改区域。该方法通过直接从单个图像的噪声残差中估计参考伪影模式，绕过了对训练数据或设备注册的需求。该流程包括一个去噪器选择标准、一个块级相关性分析和一个高斯混合模型评分阶段，以生成像素级篡改概率图。与现有的最先进的被动方法相比，所提出的方法具有竞争力。
-
研究：非最大概率映射影响S-JEPA编码器表示
一篇新研究论文探讨了在S-JEPA编码器表示中，将非最大概率映射到高斯混合模型（GMM）分量的重要性。该研究引入了两种对照方法，FIXED-RANDPERM和UNIFORM-TAIL，与“REAL SOFT”方法进行比较。结果表明，REAL SOFT在恢复原始GMM尾部和访问谱动力学方面优于对照组，这表明仅靠数值概率结构是不够的；非最大概率的具体映射也会影响学习到的编码器表示。
-
新的VAE-EVT框架改进了URLLC的无线电地图预测
研究人员开发了一种新的物理信息VAE-EVT框架，以改进对超可靠低延迟通信（URLLC）至关重要的低信噪比（SNR）区域的预测。该模型区分了SNR的体分布和尾部分布，对体分布使用高斯混合模型，对尾部分布使用广义帕累托分布。在RadioMapSeer数据集上进行评估时，VAE-EVT框架在关键的0.1%中断区域实现了显著更低的SNR RMSE（4.83 dB），优于基于GAN的模型（RMSE为21.90 dB）。
-
TEAMMix框架增强了基于LLM的分层文本分类
研究人员开发了TEAMMix，一个旨在利用基于LLM的数据增强来增强分层文本分类（HTC）的新型框架。该方法通过关键词生成和语料库挖掘来语义丰富标签层级，解决了复杂的标签层级和类别不平衡等挑战。然后，它使用LLM生成伪样本来对抗长尾问题，并采用基于高斯混合模型的置信度重采样来提高数据质量。实验表明，TEAMMix能有效提升LLM生成标签的可靠性，并显著提高在细粒度和不平衡数据集上的分类性能。
-
新的神经网络方法逼近复杂随机方程中的条件律
研究人员开发了一种新颖的方法，使用条件圆柱形神经网络来逼近带公共噪声的McKean-Vlasov方程中的条件律。该方法将傅里叶矩和截断签名映射到条件律的高斯混合逼近，从而能够评估目标泛函。该方法得到了连续性和通用逼近的理论保证的支持，并通过对各种示例的数值研究证明了其在实际应用中的有效性，显示出相对于经验粒子逼近的一致性改进。
-
新的HProbZ方法增强了神经网络中的预测不确定性
研究人员推出了一种新颖的神经网络输出头——混合概率区域体（HProbZ），旨在更好地表示预测中不同来源的不确定性。与使用高斯混合或单一一致区域的传统方法不同，HProbZ将不确定性分离为离散模式、有界系统漂移和不可约噪声。这种新方法允许闭式似然，并能够基于单次前向传播中的观测步数来精炼未来的预测。在预测基准上的实证测试表明，HProbZ的性能优于相同编码器混合基线，同时提供了独特的结构优势。