Projected Gradient Descent
PulseAugur coverage of Projected Gradient Descent — every cluster mentioning Projected Gradient Descent across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
新的强化学习算法PPO-PGDLC增强了策略鲁棒性
研究人员开发了一种名为PPO-PGDLC的新型强化学习算法，旨在提高策略对转移动力学不确定性的鲁棒性。该算法将近端策略优化与投影梯度下降和Lipschitz正则化判别器相结合。在控制任务和机器人运动方面的实验表明，PPO-PGDLC在面对环境扰动时，通过实现更好的性能和产生更平滑的动作，优于基线方法。
-
新指标衡量 AI 安全分类器解释在攻击下的退化程度
一项新的研究论文引入了可解释性稳定性指数（ESI），用于衡量对抗性攻击如何影响网络安全分类器的解释。该研究将先前的工作扩展到四种表格安全数据集上的 Random Forest 和 XGBoost 模型，发现预测鲁棒性和解释稳定性是不同的指标。研究强调，一些攻击虽然对基于梯度的方法表现出鲁棒性，但仍可能显著破坏模型解释的稳定性，这表明需要同时衡量鲁棒性和稳定性。
-
新研究探索多模态和稀疏自编码器方法以对抗大型语言模型越狱
研究人员正在开发新的方法来对抗对语音语言模型（SLM）的越狱攻击。一种方法 JAMA 使用联合多模态优化框架同时攻击音频和文本模态，证明比单模态攻击更有效。另一项研究提出使用稀疏自编码器（SAE）进行大型语言模型越狱缓解，证明在稀疏 SAE 特征空间中进行引导比在密集激活空间中进行防御具有优势。
-
新AEGIS框架增强视觉传感器中的对抗性检测
研究人员开发了AEGIS，一个旨在增强视觉传感器网络中对抗性检测鲁棒性的新框架。该系统集成了SemantiGAN模块，用于对不一致的输入进行语义区分，以及一个利用Dirichlet分布的Evidential Deep Learning分类器，该分类器在预测的同时提供校准的不确定性估计。在Tiny ImageNet数据集上的评估表明，AEGIS在检测各种对抗性攻击方面表现出色，取得了高AUROC、AUPRC和准确率分数。
-
量子神经网络利用噪声实现鲁棒的入侵检测 · arXiv 研究
本文为随机量子神经网络（SQNN）引入了一个严格的理论框架，以增强网络入侵检测中的对抗鲁棒性。该研究提出了一种“退相干收缩定理”，该定理量化了噪声（特别是退偏信道）如何收缩对抗性扰动。在 NSL-KDD 数据集上的实验表明，与无噪声模型相比，使用这种噪声训练的 SQNN 在抵抗 FGSM 和 PGD 等攻击方面具有显著更强的鲁棒性，并避免了灾难性的鲁棒性崩溃。该研究还推导了噪声正则化的自适应惩罚公式，比较了门控丢弃与退偏噪声，发现它们…
-
新的Veriphi系统集成了攻击和认证用于神经网络验证
研究人员开发了Veriphi，一个用于验证神经网络的新系统，它集成了快速对抗性攻击与形式化边界认证。在MNIST和CIFAR-10数据集上的实验表明，不同训练方法的有效性高度依赖于数据集。例如，区间边界传播在MNIST上表现良好，但在CIFAR-10上表现不佳，而投影梯度下降对抗性训练在该数据集上表现更优。Veriphi在验证方面实现了五倍的加速，并扩展到大型模型以进行航空航天物流优化，挑战了认证训练普遍优于对抗性训练的观点。
-
撤回的论文揭示了AI模型中依赖于底层的对抗性故障
一篇已被撤回的研究论文探讨了物体检测器中的对抗性鲁棒性，特别关注一种被称为“质量损坏”（QC）的现象。研究观察到，其中一个模型EMS-YOLO（一种脉冲神经网络）在遭受对抗性攻击时，尽管准确率崩溃，但仍保留了高比例的检测结果。这种被称为QC的行为被发现是依赖于底层的，仅出现在四种测试的SNN架构中的一种，并且证明能抵抗标准的防御机制。
-
CNN在基于ML的网络入侵检测中表现出卓越的鲁棒性
一项新的研究论文调查了用于网络入侵检测系统的机器学习模型在对抗性攻击下的鲁棒性。研究发现，虽然随机森林模型达到了很高的基线准确率，但在对抗性压力下它们会灾难性地失效。相比之下，卷积神经网络（CNN）表现出更强的韧性，即使在扰动水平不断增加的情况下也能保持高准确率，这表明CNN在对抗性环境中是更合适的选择。
-
SHIELD框架提供强大的持续学习能力以抵御对抗性攻击
研究人员开发了SHIELD，一个用于在对抗条件下进行鲁棒持续学习的新型框架。该系统集成了区间边界传播（Interval Bound Propagation）和超网络架构，能够高效地生成特定任务的参数，而无需重放缓冲区。SHIELD还采用了Interval MixUp，一种保证认证鲁棒性和更平滑决策边界的训练策略。评估表明，在对抗强对抗性攻击的基准测试中，SHIELD的表现优于现有方法，为对抗环境中的实际持续学习带来了显著的进步。
-
新框架统一并增强深度神经网络扰动技术
研究人员引入了一个统一的框架，用于扰动深度神经网络中的隐藏激活，这一概念之前分析不足。该框架揭示了像Dropout和对抗性特征扰动等现有方法都是激活扰动的特定形式。提出的方法，学习扰动激活（LPA），通过投影梯度下降（PGD）学习到的类特定扰动来适应性地扰动激活。实验表明，LPA的性能始终优于现有技术，并与其他扰动方法互补。
-
新的“提升”方法增强了输入凸神经网络的训练
研究人员为输入凸神经网络（ICNN）引入了一种名为“提升”的新型训练技术，ICNN 对于密度估计和贝叶斯推断等任务至关重要。传统方法在处理层间权重的非负约束时遇到困难，导致训练停滞。提出的“提升”方法使用一个无约束的超网络来生成这些权重，引入了随机性，从而平滑了损失景观并实现了更深的收敛。该方法在图像风格潜在变量和高维表格数据等各种基准测试中，表现优于现有方法。
-
更简单的机器学习模型对对抗性攻击表现出惊人的鲁棒性
研究人员探讨了机器学习模型的架构选择如何增强其对基于梯度的对抗性攻击的鲁棒性。他们广泛的实验表明，更简单的网络设计、更少的特征和ReLU激活函数能持续降低模型的脆弱性。令人惊讶的是，基于这些原则构建的一个基础模型，在保持高检测准确率和更快训练速度的同时，其性能优于更复杂、经过对抗性训练的模型。
-
新的优化方法 Local LMO 绕过了投影
研究人员引入了 Local LMO，一种用于约束优化问题的新型无投影梯度方法。该方法用当前迭代点周围小球内的局部线性最小化步骤替换了 Frank-Wolfe 的全局线性最小化步骤。Local LMO 在各种情况下提供了与投影梯度下降相当的收敛速度，包括约束集无界的场景，并为光滑强凸函数实现了线性收敛速度。
-
新框架评估自动驾驶AI在真实世界对抗性攻击下的鲁棒性
研究人员开发了一个新的框架，用于评估自动驾驶系统在真实世界对抗性攻击下的实时鲁棒性。该方法利用真实世界的交叉路口驾驶数据，超越了纯粹的模拟测试，以捕捉关键的真实世界因素。研究比较了三种轨迹学习方法，发现架构设计对对抗性稳定性有显著影响，攻击能够引起显著的位移误差。