Projected Gradient Descent
PulseAugur coverage of Projected Gradient Descent — every cluster mentioning Projected Gradient Descent across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
新的FusionAudit框架揭示了原生多模态模型的隐藏漏洞
研究人员推出FusionAudit，一个用于评估原生多模态模型鲁棒性的新框架。原生多模态模型通过更深入地整合视觉和文本处理，区别于旧的视觉-语言模型。该框架使用路径条件风险评估来识别传统像素攻击所忽略的漏洞。FusionAudit的诊断驱动攻击MANTIS和Nat-Evid揭示了原生VLM的特定弱点，例如在不处理的情况下关注渲染文本，并突显了现有攻击对这些新架构的排名不稳定性。
-
新的模仿学习方法增强了神经网络控制策略的安全性
研究人员开发了一种名为交错投影梯度下降（IPGD）的新型模仿学习技术，旨在训练神经网络控制策略，同时遵守状态和输入约束。该方法将标准的模仿梯度步骤与安全步骤交替进行，安全步骤将动作投影到安全集合上，旨在满足训练过程中的约束并提高在实际应用中的性能。在自动驾驶赛车任务的模拟中，与基于惩罚的方法相比，IPGD 显著减少了约束违反，在达到可比的单圈时间的同时，表现出对参数调整更大的鲁棒性。
-
探索视觉Transformer曲率以提高对抗鲁棒性
一篇题为“hZACH-ViT中的曲率受到攻击”的新研究论文，探讨了紧凑型视觉Transformer模型中曲率与各种因素的相互作用。该研究在MedMNIST数据集上进行，发现虽然庞加莱几何通常显示出较低的对抗攻击成功率，但其干净准确率也较低。降低庞加莱曲率可以提高干净准确率，但会显著增加在特定数据集上的对抗攻击成功率。研究表明，曲率、尺度和接近庞加莱边界共同影响这些模型中的干净识别和对抗鲁棒性。
-
机器学习研究探索对抗性训练以增强鲁棒性 · 跟踪 5 个来源
该机器学习论文集探讨了对抗性训练的各个方面。研究调查了对抗性噪声如何影响分类器鲁棒性，比较了不同的分布式训练算法及其在逃避局部最小值方面的效率。此外，一篇论文引入了一种对抗性训练的概率方法，另一篇则提出了一种包含字典结构的新型网络架构，以增强鲁棒性和泛化能力。这些研究共同旨在提高机器学习模型抵御复杂攻击的弹性。
-
新研究揭示了针对 LLM 代理的强效后门攻击方法
两篇新研究论文探讨了大语言模型 (LLM) 代理的漏洞，重点关注后门攻击。第一篇论文 AGENTQ 介绍了一种创建攻击的方法，即使在量化（LLM 代理的常见部署步骤）后也有效。该方法在保持代理的良性功能的同时，确保量化模型中触发恶意行为，攻击成功率高达 100%。第二篇论文 SAILS 解决了后门攻击中毒数据选择的问题，证明了中毒样本的选择对攻击成功率有显著影响。SAILS 学习选择更有效的毒药集，提高了攻击成功率，并可迁移到各种 L…
-
P2P借贷模型对抗性训练在不同攻击类型下表现出混合鲁棒性
研究人员评估了在同行借贷（P2P lending）中使用的机器学习模型在面对各种对抗性攻击时的鲁棒性。研究发现，虽然对抗性训练能显著提高模型对特定训练攻击的防御能力，但这种鲁棒性并不总是能很好地迁移到不同类型的攻击上，特别是非基于梯度的攻击。研究结果表明，混合攻击对抗性训练在抵御各种操纵方法方面提供了最均衡的防御，这对于有效的信用模型治理至关重要。
-
新的AI攻击方法利用文本引导扩散模型发现胸部X光图像的漏洞
研究人员开发了一种新颖的、基于文本引导的扩散模型的对抗性框架，用于测试用于胸部X光（CXR）解读的AI模型的脆弱性。与传统的像素空间攻击不同，该方法利用学习到的文本条件来生成视觉上合理且保真度高的对抗性图像。该框架持续降低分类器性能，在二分类和多病分类任务中均显著降低了AUROC分数，而临床医生的解读基本保持不变。这凸显了人类和机器理解之间的关键差距，并强调了在医疗AI鲁棒性评估中引入生成性威胁模型的必要性。
-
新基准评估Kolmogorov-Arnold网络在对抗性攻击下的鲁棒性
研究人员开发了KAN-Robust-Bench，一个旨在评估Kolmogorov-Arnold网络（KANs）在对抗性规避攻击下的鲁棒性的新基准。该研究探索了认证鲁棒性和经验鲁棒性，应用了随机平滑和区间界传播的数学基础来评估{l}2-认证鲁棒性。该基准系统地测试了各种KAN架构和防御策略，以应对FGSM、PGD和C&W等常见攻击，从而确定安全性的最佳配置。
-
新的CIVA攻击方法针对视觉世界模型代理
研究人员开发了一种名为批评诱导值子空间攻击（CIVA）的新方法，用于攻击视觉世界模型代理。这些代理（如DreamerV3）通过循环潜在状态运行，使其能够抵御传统的逐帧攻击。CIVA利用代理自身的批评者来识别扰动最有效的低维子空间。通过在该子空间内进行优化并平滑扰动，CIVA在DMC walker walk、Pong和Crafter等环境中实现了显著的奖励下降，优于现有攻击方法。
-
新研究质疑PGD衡量AI模型鲁棒性的能力
一篇新近发表在arXiv上的研究论文，调查了投影梯度下降（PGD）在评估卷积神经网络对抗鲁棒性方面的有效性。研究人员发现，尽管PGD被广泛使用，但其标准的最终对抗准确率指标并不能完全捕捉模型在整个攻击过程中的行为。研究表明，诸如损失演变和梯度对齐等轨迹级别诊断可以描述优化几何，但不能独立衡量鲁棒性。该研究建议，“失败步数”分布能更清晰地区分鲁棒性模式，表明轨迹分析应作为标准鲁棒性测量的补充而非替代。
-
新理论与算法推动相干成像技术发展
研究人员为多视角相干成像（一种用于数字全息和合成孔径雷达等应用的技术）开发了新的理论框架和算法。该论文首次在深度图像先验假设下，为最大似然估计器的均方误差（MSE）提供了理论上限。所提出的算法通过结合牛顿-舒尔茨算法进行矩阵求逆以及采用装袋策略来减少投影误差，从而提高了性能，并取得了最先进的结果。
-
新AI工具PPAPlace优化芯片布局以提升性能
研究人员开发了PPAPlace，一个旨在通过优化芯片布局来提升性能、功耗和面积（PPA）的新型AI驱动系统。与侧重于半周长布线长度（HPWL）的传统方法不同，PPAPlace采用双流预测器，结合了图注意力和空间卷积来预测布线后时序指标，如最差负时序裕度（WNS）和总负时序裕度（TNS）。这种方法允许从这些时序指标获得的梯度反馈到布局过程中，与现有基线相比，在WNS和TNS方面取得了显著改进。
-
新防御方法SRAP通过SVD精炼提升换脸保护能力
研究人员开发了SRAP，一种防御换脸深度伪造的新颖方法。SRAP使用奇异值分解（SVD）和身份重要性掩码来精炼对抗性扰动。该方法旨在通过抑制高频噪声并将扰动集中在对身份敏感的区域，来减少与对抗性防御相关的典型视觉降级。实验表明，与现有方法相比，SRAP在保护面部图像和保持其视觉质量之间提供了更好的平衡。
-
新方法实现单纯形乘积空间上的平滑优化
本文介绍了一种在单纯形乘积空间上优化函数的新方法，该方法适用于学习概率分布和函数数据配准等任务。该方法通过将乘积单纯形重新参数化为一个光滑流形，从而将无约束优化问题转化为一个可解的问题。这种重新参数化将流形上的二阶 KKT 点映射到原始单纯形上的弱二阶 KKT 点，从而实现了一种优于投影梯度下降的黎曼梯度下降算法，并能更准确地表示函数形状。
-
ImageCLEF 2026：探索对抗性深度伪造生成与检测方法
一篇研究论文详细介绍了团队参与ImageCLEF 2026深度伪造生成与检测任务的情况，采用了FLUX.1-dev和PuLID进行身份保留的面部合成，以及多模型PGD对抗性攻击。他们的生成方法在对抗组织者检测器方面达到了90%的规避率。在检测方面，他们结合了SigLIP+DINOv2和GenD-DINOv3检测器，在基线深度伪造上达到了99.4%的准确率，但在真实图像上存在较高的误报率。进一步研究净化对抗检测表明，通过EFFORT检测…
-
新算法解决带约束的拟凸优化问题
研究人员开发了一种新的非精确加速近点算法，用于处理具有一般凸约束的光滑拟凸函数。该算法实现了最优的一阶查询复杂度 $\widetilde{O}(1/(\gamma\sqrt{\varepsilon}))$，解决了该领域的一个开放性问题。该工作还分析了在此约束设置下的投影梯度下降和 Frank-Wolfe 算法，首次对具有一般凸约束的光滑拟凸函数的一阶方法进行了分析。
-
新的强化学习算法PPO-PGDLC增强了策略鲁棒性
研究人员开发了一种名为PPO-PGDLC的新型强化学习算法，旨在提高策略对转移动力学不确定性的鲁棒性。该算法将近端策略优化与投影梯度下降和Lipschitz正则化判别器相结合。在控制任务和机器人运动方面的实验表明，PPO-PGDLC在面对环境扰动时，通过实现更好的性能和产生更平滑的动作，优于基线方法。
-
新指标衡量 AI 安全分类器解释在攻击下的退化程度
一项新的研究论文引入了可解释性稳定性指数（ESI），用于衡量对抗性攻击如何影响网络安全分类器的解释。该研究将先前的工作扩展到四种表格安全数据集上的 Random Forest 和 XGBoost 模型，发现预测鲁棒性和解释稳定性是不同的指标。研究强调，一些攻击虽然对基于梯度的方法表现出鲁棒性，但仍可能显著破坏模型解释的稳定性，这表明需要同时衡量鲁棒性和稳定性。
-
新型探测器使用模仿算子来识别对抗性图像攻击
研究人员开发了一种新的、无需训练的对抗性图像扰动探测器，该探测器利用高阶 Corbino--Castillo 模仿算子。该探测器以 O(HW) 的时间运行，并且不需要访问被攻击的网络或进行任何重新训练。它通过分析像素级噪声模式，有效地将 FGSM 和 PGD 等攻击生成的对抗性图像与干净图像区分开来。
-
新研究探索多模态和稀疏自编码器方法以对抗大型语言模型越狱
研究人员正在开发新的方法来对抗对语音语言模型（SLM）的越狱攻击。一种方法 JAMA 使用联合多模态优化框架同时攻击音频和文本模态，证明比单模态攻击更有效。另一项研究提出使用稀疏自编码器（SAE）进行大型语言模型越狱缓解，证明在稀疏 SAE 特征空间中进行引导比在密集激活空间中进行防御具有优势。