Adversarial Robustness with Partial Isometry
PulseAugur coverage of Adversarial Robustness with Partial Isometry — every cluster mentioning Adversarial Robustness with Partial Isometry across labs, papers, and developer communities, ranked by signal.
-
新的AI安全框架解决了MLP中的对抗鲁棒性问题
研究人员开发了一个新的AI安全理论框架，专门解决多层感知机（MLP）中的对抗鲁棒性问题。该方法将问题简化为格遍历，其中区间（轴对齐超矩形）用于认证输入点是否可以被扰动而不改变MLP的预测。这项工作引入了以前未被探索过的完全认证概念，并提出了健全和完全认证的算法。使用名为ParallelepipedoNN的新系统进行了实证评估。
-
揭示用于AI在医学影像中可信度的新指标
研究人员引入了概率鲁棒性（PR）作为评估医学图像分类中深度学习模型可信度的更实用方法。该方法与现有的对抗鲁棒性（AR）方法形成对比，后者侧重于最坏情况。该研究在MedMNIST v2数据集上评估了常见的深度学习模型，并采用了自然扰动设置，提供了对模型可信度的统计学基础视角，旨在支持更安全的临床部署。
-
AI入侵检测模型无法跨工控物联网网络泛化
arXiv上发表的一项新研究强调了专为工控物联网（IIoT）网络设计的轻量级机器学习模型的入侵检测方面存在严重的泛化失败问题。研究人员发现，在一个IIoT数据集上训练的模型在评估不同、结构不同的数据集时表现不佳，即使在使用受限的特征集的情况下也是如此。分析显示，这些模型严重依赖粗粒度的端口类别特征，这些特征在不同网络环境中充当了捷径，而不是可靠的指标。该研究强调，需要根据真实的类别分布进行跨网络评估，以准确评估部署就绪情况，因为仅凭域…
-
新型PHINN网络利用拓扑学生成稀有时间序列事件
研究人员开发了PHINN，一个新颖的神经网络框架，用于生成稀有事件时间序列数据。该方法利用拓扑特征，特别是贝蒂数，来更好地捕捉不频繁发生的事件的独特模式，其性能优于传统的统计模型和扩散模型。PHINN还提供了元学习、少样本生成和对抗鲁棒性的能力，在各种基准测试中在拓扑保真度和形状准确性方面显示出显著的改进。
-
新的NPPR指标提供了鲁棒的深度学习评估
研究人员引入了非参数概率鲁棒性（NPPR），一种用于评估深度学习模型鲁棒性的新指标。与假设已知扰动分布的先前方法不同，NPPR直接从数据中学习这种分布，在不确定性下提供了更实际的评估。开发了一种使用高斯混合模型的NPPR估计器，理论分析表明其与现有的对抗性和概率鲁棒性指标的关系。在标准数据集和各种模型架构上的实验表明，NPPR提供了更保守的鲁棒性估计。
-
新的基准和框架推动了人工智能模型鲁棒性评估的进步
研究人员推出了 PRBench，这是一个旨在标准化深度学习模型概率鲁棒性评估的新基准。该基准在准确性、鲁棒性、训练效率和泛化误差等多个指标上比较了各种对抗性训练（AT）和针对性概率鲁棒性（PR）的训练方法。研究结果表明，AT 方法在提高对抗性和概率鲁棒性方面更为通用，而 PR 目标方法则提供了更好的泛化能力和干净准确性。此外，一个使用离散连续性模（DMOC）的新框架提供了一种数据驱动的方法来评估神经网络的鲁棒性，超越了传统的 Lips…
-
新AI方法应对不断演变的安卓恶意软件检测
研究人员开发了新的方法来应对安卓恶意软件检测系统中的概念漂移问题，该问题是指模型性能会因恶意软件特征的演变而随时间下降。一种方法，“使用自监督和强化学习的概念漂移适应”，利用自监督学习来获得稳定的表示，并利用强化学习来选择具有成本效益的维护操作。另一种方法，“SEED：用于在预算内应对概念漂移的半监督持续恶意软件检测”，结合了半监督持续学习和主动学习，以在有限的标记数据下提高检测能力。第三项研究，“时间概念漂移下的对抗性漏洞”，纵向评…