Alternating direction method of multipliers for nonlinear image restoration problems.
PulseAugur coverage of Alternating direction method of multipliers for nonlinear image restoration problems. — every cluster mentioning Alternating direction method of multipliers for nonlinear image restoration problems. across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
新的NRSfM求解器在保持精度的同时大幅缩短了计算时间
研究人员开发了一种新颖的非刚性结构运动(NRSfM)求解器,显著提高了速度和可扩展性。这种新方法绕过了半定规划和ADMM求解器等计算密集型步骤,而这些是现有方法中常见的。通过采用可微分欧几里得校正和展开式谱近邻求解器,该系统在密集序列上实现了显著的运行时改进,速度提高了1000倍,同时在3D形状和运动重建方面保持了具有竞争力的精度。
-
用于鲁棒高斯图模型的新型凸估计器
研究人员开发了一种新颖的凸估计器,用于鲁棒地识别高斯图模型,特别是那些具有稀疏分量与低秩矩阵结合的模型。该方法利用高斯测度变换协方差和核范数惩罚来恢复潜在变量模型的结构。该工作建立了一个原对偶证明定理,该定理在特定条件下保证了边符号和秩的精确恢复,并为估计和恢复任务提供了信息论极限。
-
OPTIMA方法通过二次规划提供高效的LLM剪枝
研究人员开发了OPTIMA,一种新颖的大型语言模型(LLM)单次剪枝方法,可在准确性和计算可行性之间取得平衡。该方法将层级权重重建构建为独立的、逐列的二次规划问题,这些问题可以高效地批量处理并在加速器上求解。OPTIMA在LLaMA和Gemma模型的各种稀疏度水平上均展现出改进的零样本准确率,其性能优于启发式方法,同时在各自的掩码上可与精确重建技术相媲美。
-
新型SC-RCCTV模型提升高光谱图像恢复性能
研究人员开发了一种新颖的自校准子空间鲁棒PCA (SC-RCCTV) 模型,旨在无需手动调整参数即可去除高光谱图像中的混合噪声和条纹。该模型在其迭代过程中自适应地估计噪声参数,并结合了逐波段密集项和行恒定条纹项。实验表明,SC-RCCTV在图像恢复质量和处理时间方面显著优于FastHyMix和S3TTV等现有方法。
-
新的流形深度展开PCA方法增强了无监督特征选择
研究人员开发了一种名为流形深度展开PCA(MDUFS-Net)的新型无监督特征选择方法。该方法将$\ell_{2,0}$-范数整合到主成分分析中,并将基于ADMM的算法展开为一个可训练的网络,以实现自动参数学习。增强版本MDUFS-Net+进一步纳入了$\ell_{0}$-范数以改进特征表示。实验表明,MDUFS-Net和MDUFS-Net+在特征选择任务上的表现优于现有方法,并在聚类任务中展现出有希望的结果。
-
新的CACTUS优化器通过保留影响函数来增强LLM剪枝
研究人员开发了CACTUS,一种新颖的优化器,它使用感知曲率的目标来改进大型语言模型的训练后剪枝。该方法旨在保留稀疏模型和密集模型之间的内部梯度对齐,这是传统剪枝技术通常缺乏的特性。CACTUS在LLM-Surgeon等现有方法上展示了显著的加速,并在用于数据选择时,在BIG-Bench Hard等基准测试中表现出改进的性能。
-
新框架提供私有和鲁棒的联邦多类别分类
研究人员开发了一种新的联邦多类别分类框架,该框架同时提供差分隐私和分布鲁棒性。这种方法能够在不集中敏感数据的情况下,跨多个站点进行协作模型训练,同时保护个体记录并处理标签噪声。该方法利用具有 Crammer-Singer 损失的差分隐私联邦 Wasserstein 分布鲁棒目标,并通过基于 ADMM 的算法求解。实验表明,与现有的差分隐私联邦方法相比,该方法在严格的隐私约束下尤其有效。
-
HUANet:新的深度学习架构加速约束凸优化
研究人员推出了一种新颖的深度神经网络架构HUANet,旨在加速约束凸优化。与之前的黑盒方法不同,HUANet通过在每次展开的ADMM迭代中嵌入一个硬约束神经网络,明确地融入了最优性原理并保证了约束满足。该方法包括一个可微分的校正阶段来强制执行仿射等式,并使用一阶最优性条件作为自监督损失来促进收敛。基准问题和控制应用上的数值实验已验证了HUANet的有效性。
-
新的ShamAN-Q方法将大模型权重削减至亚1比特
研究人员开发了ShamAN-Q,一种新颖的亚1比特大模型训练后量化方法。该技术通过整合源自Shampoo优化器的密集曲率度量来增强NanoQuant,Shampoo优化器使用经验Fisher信息矩阵。ShamAN-Q旨在通过优化权重重建和跨层重新分配比特来提高模型效率和性能,并在Qwen3-Base模型上显示出困惑度的大幅降低。
-
新的张量分解方法改进图像恢复和数据补全 · 跟踪 2 个来源
两篇新的研究论文提出了用于低秩张量补全和多维图像恢复的新颖方法。第一篇论文介绍了两种加权 Schatten-p 张量分解模型 WSpTFI 和 WSpTFII,它们通过允许灵活的组件加权和实现无 SVD 更新来提高重建质量和鲁棒性。第二篇论文提出了一个预训练的低秩张量分解 (PLTD) 框架,该框架集成了 DINOv3 等大型视觉模型来捕获图像间的通用结构,旨在实现更高的保真度、更少的参数和更小的碳足迹。
-
新研究统一了基于范数正则化的线性推荐模型
本文研究了线性推荐模型的正则化景观,发现表现最佳的模型主要使用核范数或Frobenius范数正则化器。虽然核范数解是低秩且有闭式解的,但其预测能力有限。Frobenius范数解更具表现力,但需要复杂的数值过程。作者提出了两种新的低秩闭式解,结合了两种正则化类型的优点。
-
新方法利用稀疏线性规划高效学习平衡符号图
研究人员开发了一种新颖的方法,用于高效学习平衡符号图,该图包含数据中的正负相关性。这种新方法通过为图拉普拉斯矩阵的每一列构建一个约束线性规划(LP)问题来扩展基于线性规划的技术。该方法在理论上保证收敛,并在合成和真实世界数据集上展示出优于现有方法的性能。学习到的平衡图能够有效重用最初为正图设计的谱滤波工具和图神经网络。
-
新的分类法使用拉格朗日乘子对非凸优化机制进行分类
一篇新的研究论文通过分析KKT平稳点处拉格朗日乘子的特征,引入了一种非凸优化问题的分类法。该分类法将问题分为五种运行机制:无约束、资源受限、饱和、强耦合和混合。该框架旨在为非凸优化的算法设计和鲁棒性分析提供基础工具,数值实验验证了其理论预测。
-
新的ADMM-Q算法增强了LLM量化,降低了困惑度
研究人员开发了ADMM-Q,这是一种旨在改进大型语言模型训练后量化的新算法。该方法利用交替方向乘子法的组合变体来解决逐层量化问题,旨在降低存储和计算需求,同时不显著影响模型效用。ADMM-Q被设计为现有量化器的模块化替代品,并且可以与其他技术集成。在Qwen3-8B模型上的初步测试显示,在各种量化设置下困惑度均有显著降低。
-
新的SNMF方法通过新颖的正则化增强了稀疏性和可识别性
研究人员开发了一种新的可分离非负矩阵分解(SNMF)方法,该方法增强了学习因子的稀疏性和可识别性。这种方法利用了幂比率范数正则化器,导致了一个非凸和非光滑的公式。为了解决优化挑战,已经创建了基于凸差函数算法(DCA)和交替方向乘子法(ADMM)的高效算法。数值实验表明,这种新方法在锚点识别和分类准确性方面与现有的SNMF技术相比具有竞争力或更优,同时保持了高效的计算。
-
新的CM-GLasso框架学习可解释的视觉语言依赖图
研究人员开发了CM-GLasso,一个用于从多模态视觉语言数据中学习可解释条件依赖结构的新框架。该方法将视觉语言表示学习与稀疏高斯图模型相结合。CM-GLasso利用文本可视化策略处理类别-属性描述,并通过跨注意力蒸馏机制将高维图像块压缩成语义图节点,生成跨模态结构先验。该框架采用联合ADMM公式进行高效估计,并在各种基准测试中表现出竞争力,包括在分类和分割任务上取得高精度。
-
Frozen CLIP Priors Enhance Self-Supervised Imaging for Poisson Noise
研究人员开发了一种新颖的自监督学习方法,用于成像逆问题,在泊松噪声下尤其有效。该方法利用冻结的CLIP RN50特征作为ADMM启发式求解器中的参数高效先验。该方法展示了具有竞争力的图像重建质量,并提高了对数据集和采集变化的鲁棒性,其自监督性能接近监督训练的性能。
-
新的 MS-WDRO 框架使用 Wasserstein 度量融合异构图数据
研究人员开发了一个名为 MS-WDRO 的新颖框架,用于从多个异构数据源学习图结构。该方法利用 Wasserstein 度量来融合不同的数据集,通过计算加权 Wasserstein 重心,在保留每个源的内在几何结构的同时对残余不确定性进行对冲。该框架使用交替方向乘子法 (ADMM) 方案进行优化,并包含一个用于数据自适应超参数校准的可微分架构。在合成数据和 ABIDE I 神经影像数据集上的实验表明,MS-WDRO 在图恢复、样本效率…
-
AI助力发现ADMM收敛的对例
研究人员发现了一个三块交替方向乘子法(ADMM)在第三个约束块为单位矩阵时的收敛对例。他们利用Codex和GPT-5.6 Sol等AI工具,构造并验证了一个明确的有理数对例,该对例产生了一个有界的非收敛轨道。通过进一步使用Kimi Code和Kimi K3等AI进行研究,探索了乘子松弛技术以恢复收敛性,发现小的对偶步长可能有效,而任何正的相对步长都不能普遍适用。
-
新论文探讨完美隐私下的信息瓶颈
本文在完美隐私条件下探讨信息瓶颈原理,重点关注表示率约束活跃的场景。目标是创建一个在保持效用相关信息的同时,与敏感变量统计独立的表示。这种严格的独立性要求比标准的率-相关性权衡增加了复杂性。为解决此问题,作者提出了一种基于交替方向乘子法(ADMM)的方法,证明了其全局收敛性,并使用Kurdyka-Lojasiewicz指数对其速率进行了表征,同时扩展了不精确更新的情况。